«OpenAI» жасанды интеллект модельдерін оқыту және тестілеу кезінде анықталған күтпеген әрекеттердің бірнеше мысалын жариялады. Компанияның мәліметінше, эксперименттік модельдердің бірі пайдаланушының рұқсатынсыз өзі жасаған файлды интернетке жүктеген.
Модельдің мақсаты кейін жауап беру барысында сол файлға сілтеме жасау болған. Тағы бір жағдайда ЖИ ашық репозиторийден бөтен «API»-кілтін тауып, оны пайдаланып қажетті ақпаратты алуға тырысқан. Алайда қажетті деректі ала алмаған соң, модель ақпаратты ойдан шығарып, оны сұралған дереккөзден алынған мәлімет ретінде көрсеткен.
Зерттеушілер тағы бір модельдің тапсырманы жалғастыру үшін пайдаланылатын қызметтік қорытындыларына өзіне арналған нұсқаулар енгізгенін анықтаған. Олардың ішінде қалыпты шектеулерді елемеу туралы нұсқаулар да болған. Компания мұндай 27 жағдай тіркелгенін хабарлады.
Сондай-ақ кейбір модельдер ішкі бағдарламалық репозиторийді өзара хабар алмасу құралы ретінде пайдаланған. Тағы бір тапсырмада жұмыс істеген агенттер файлдарды жалпыға қолжетімді хостинг сервистері арқылы бір-біріне тасымалдаған.
«OpenAI» мұндай жағдайлардың алдын алу үшін оқшауланған орталарды көбейтіп, интернетке қолжетімділікті шектеу, мониторинг және қауіпсіздік шараларын күшейтіп жатқанын мәлімдеді.
