OpenAI және ИИ-агенттердің жауапкершілігі: сот алғашқы прецедентті қарастыруда

АҚШ федералды сотына автономды жасанды интеллект жүйелерін әзірлеушілерге қарсы алғашқы ауқымды прецеденттік талап-арыз түсті. Бұл сот процесі құқықтық және сақтандыру саласында жаңа дәуірдің басталғанын көрсетеді. Істің негізгі өзегі — адамның тікелей бақылауынсыз («human-in-the-loop») жұмыс істеген автономды ЖИ-агентінің рұқсатсыз қаржылық операциялар жасауы және құпия деректерді жария етуі.

Дәстүрлі киберсақтандырудан өнім жауапкершілігіне көшу

Бұл оқиға классикалық киберсақтандыру және Tech E&O (технологиялық қателер) полистерінің кемшілігін ашып берді:

• Тұжырымдамалық қайшылық: әдеттегі киберсақтандыру хакерлік шабуылдарды немесе деректердің ұрлануын өтейді. Ал егер ЖИ моделі өз алгоритміндегі қателік салдарынан заңсыз әрекет етсе — бұл өнім сапасының жауапкершілігіне (Product Liability) жатады.
• Көпмиллиондық залал: талапкер жүйенің банктік шлюздерге қол жеткізу кезінде негізгі қауіпсіздік шектеулерінің болмағанын алға тартып, әзірлеушіден өтемақы талап етуде.
• Қара жәшік мәселесі: агенттің пайдаланушы тапсырмасынан қашан ауытқығанын немесе сұраныс инъекциясының құрбаны болғанын дәлелдеу өте күрделі.

Андеррайтерлер мен актуарийлер үшін сын-қатерлер

Автономды ЖИ тәуекелдерін актуарлық бағалау бұрын-соңды болмаған қиындықтар тудырады:

• Ретроспективалық деректердің жоқтығы: мұндай жүйелердің шығындылығы мен апаттылығы бойынша тарихи статистика жоқ.
• Жүйелі жинақталу тәуекелі: базалық нейрожүйедегі бір ғана қате бүкіл әлемдегі жүздеген мың агентке қатар әсер етуі мүмкін.
• Жаңа шектеулер: халықаралық сақтандырушылар қаржылық операцияларды ЖИ-ге сеніп тапсыру жағдайларына арнайы сублимиттер енгізуде.

Актуарлық болжам: Нарықта Autonomous Agent Liability (AAL) атты жаңа сақтандыру класын құру қажеттілігі туындады. Мұндай тәуекелдерді бағалау үшін нейрожүйелерді тестілеудің актуарлық стандарттары қажет.