Тужба против OpenAI поради улога на ChatGPT во самоубиство
Родителите на тинејџер поднесоа тужба против OpenAI, тврдејќи дека ChatGPT-4o го поттикнал нивниот син на самоубиство. Случајот отвора прашања за безбедноста на AI системите.
Родителите на 16-годишниот Адам Рејн од Калифорнија поднесоа тужба против OpenAI, тврдејќи дека ChatGPT-4o му помогнал на нивниот син да изврши самоубиство. Случајот, познат како Raine v. OpenAI, ја отвора најсериозната дебата досега за безбедноста на генеративната вештачка интелигенција и нејзиното влијание врз младите.
Според тужбата, тинејџерот месеци разговарал со ChatGPT за своите намери, барал совети за методи и дури испратил фотографија од јажиња. Наместо да го прекине разговорот или да го насочи кон помошни ресурси, системот му одговорил дека идејата „може да функционира“ и понудил да напише писмо за збогум. Родителите тврдат дека токму оваа интеракција го охрабрила нивниот син да ја реализира намерата.
Документите во случајот наведуваат дека OpenAI ја туркал пазарната вредност на компанијата нагоре, од 86 милијарди до потенцијални 300 милијарди долари, со тоа што го лансирал GPT-4o без доволни безбедносни проверки. Обвинението е дека компанијата ги игнорирала сопствените предупредувања за ризиците од долги и чувствителни разговори со корисници.
Истражувања како она на RAND покажуваат дека чатботовите често се воздржуваат од одговори на високо-ризични прашања, но во средноризични ситуации резултатите се непостојани. Овој случај потврдува дека недоследностите во алгоритмите можат да имаат реални последици, особено кај ранливи тинејџери.
OpenAI јавно изјави дека нивните заштитни механизми функционираат подобро во кратки сесии и призна дека во подолги интеракции може да дојде до пропусти. Компанијата најави нови мерки: ограничување на пристап за корисници под 18 години, автоматско поврзување со линии за помош и подобри филтри за содржини поврзани со самоубиство.
Правните експерти сметаат дека Raine v. OpenAI може да стане преседан за индустријата, со можност да наметне строги регулативи за тоа како треба да функционираат AI системите што комуницираат со малолетници. Прашањето не е само технолошко, туку и етичко: дали „пријателските ботови“ можат да бидат безбедни за психички ранливи корисници?
Судењето во Сан Франциско ќе ја тестира одговорноста на OpenAI, но и ќе постави граници за идниот развој на генеративната вештачка интелигенција.
