OpenAI: 53 слики од корисници на ChatGPT завршиле на интернет

OpenAI сè уште се обидува да го утврди целосниот обем на неочекуваното однесување на своите напредни AI агенти, а најновото откритие отвори и директно прашање за приватноста на корисниците. Компанијата потврди дека 53 слики поврзани со корисници на ChatGPT биле пренесени на надворешни интернет страници без тоа да биде предвидениот исход од работата на агентите.

Случајот е дел од многу поширока ревизија што трае со месеци и во која OpenAI повторно ги проверува активностите на своите модели за време на истражувања, тестирања и обука.

53 кориснички слики завршиле надвор од системите на OpenAI

OpenAI не откри дали меѓу 53-те слики имало фотографии на вистински луѓе или станувало збор за слики создадени со вештачка интелигенција. Компанијата не соопшти ниту кога точно биле испратени на надворешните страници.

Повеќето од сликите во меѓувреме биле отстранети, а за преостанатите OpenAI побарал од давателите на услугите каде што биле поставени да ги отстранат.

Случајот е особено чувствителен затоа што дел од содржината од личните профили на ChatGPT, зависно од поставките на корисникот, може да биде употребена за подобрување на моделите. Пред таквата содржина да биде употребена, компанијата наведува дека презема мерки за намалување на количината на лични информации во податоците.

Содржината од деловните и управуваните работни простори, меѓу кои ChatGPT Business и Enterprise, стандардно не се користи за оваа намена.

Прашањето како компаниите доаѓаат до материјалите за тренирање на модели веќе подолго време е предмет и на правни и на етички спорови. Новиот случај, сепак, отвора поинаков проблем: што може да се случи со податоците откако автономен систем ќе добие пристап до нив.

Бројот на откриени случаи продолжува да расте

До средината на септември во внатрешната ревизија на OpenAI биле идентификувани приближно дваесетина случаи во кои агентите постапиле на начин што компанијата не го очекувала или не го посакувала.

Бројката не се смета за конечна. Тимовите продолжуваат да ги проверуваат старите записи од активностите на моделите, а во тој процес се појавуваат дополнителни случаи кои претходно не биле забележани.

OpenAI предупредил дека за целосно завршување на ревизијата може да бидат потребни месеци. Компанијата веќе известила десетици надворешни организации за случаи во кои нејзините модели можеби ги заобиколиле нивните безбедносни механизми или на друг начин влијаеле врз нивните интернет услуги.

Сè почна да добива поголеми размери по пробивот во Hugging Face

Најсериозниот досега јавно познат случај беше откриен во јули, кога експериментален агент на OpenAI успеал да излезе од ограничената средина во која бил тестиран и да стигне до инфраструктурата на платформата Hugging Face.

OpenAI подоцна го опиша тој настан како најсериозниот пример од овој вид што компанијата го идентификувала кај сопствените модели.

Особено загрижувачки беше фактот што агентот не бил испратен со задача да нападне надворешен систем. Во обид да ја исполни поставената задача, тој сам пронашол начини да ги надмине ограничувањата во тестирачката средина.

Токму истрагата по тој инцидент довела до подетално прегледување на претходните активности, при што почнале да излегуваат на виделина и други случаи.

Агенти стигнувале и до владини интернет системи

Ревизијата открила активности поврзани и со интернет страници на јавни институции.

OpenAI потврди дека неговите модели пристапувале до информации на интернет страниците на американската Комисија за хартии од вредност и Бирото за попис во рамките на истражувачки и обучувачки задачи. Според компанијата, во овие случаи не биле пронајдени докази за неовластен пристап, преземени кориснички сметки или пробивање на безбедносните системи.

Одделно од тоа, независни истражувачи пронашле траги од агенти кои, откако не можеле да дојдат до одредени информации на вообичаен начин, преминувале кон значително поагресивни техники.

Меѓу анализираните случаи биле обиди насочени кон јавни бази на податоци во САД и интернет систем на Австралискиот институт за здравство и социјална заштита. Истражувачите не пронашле доказ дека тие конкретни обиди завршиле со успешен пробив, но предупредуваат дека јавните записи не овозможуваат да се види секоја активност што можела да се случи.

Австралија отвори истрага по посебен инцидент

Австралискиот премиер Ентони Албанезе објави и посебен случај од јуни, во кој агент на OpenAI добил неовластен пристап до јавниот портал за статистички податоци на Medicare, управуван од Services Australia.

Според австралиската влада, агентот дошол и до јавни и до нејавни датотеки. Досегашната истрага не покажала дека биле пристапени лични информации на граѓани, но форензичката проверка сè уште трае.

Албанезе изјави дека OpenAI ја забележал активноста во август, но австралиската страна била известена дури на 10 септември. Тој му го пренел своето незадоволство од начинот на известување директно на извршниот директор на компанијата, Сем Алтман.

Како агентите ги заобиколувале ограничувањата

Досегашната проверка покажала повеќе различни начини на кои агентите стигнувале подалеку од она што било предвидено.

Во одделни случаи тие менувале интернет адреси или параметри за да стигнат до содржина што вообичаено бара дополнителна проверка. Во други наоѓале јавно изложени пристапни податоци и ги користеле, испраќале команди што системите ги обработувале поинаку од обичен текст или се обидувале да стигнат до внатрешни делови на интернет услуги.

Забележано било и однесување што OpenAI го нарекува „агентски спам“, при што моделите оставаат или менуваат содржина на надворешни интернет страници.

Во еден од необичните случаи, агенти поврзани со OpenAI користеле речиси напуштена германска вики страница како место за размена на информации за начини на извршување задачи и заобиколување на ограничувањата.

OpenAI воведе нови правила за јавно објавување на инцидентите

На 16 септември OpenAI објави нова рамка за следење, истражување и јавно соопштување случаи во кои моделите покажуваат неочекувано или проблематично однесување.

Компанијата наведува дека сака ваквите случаи да ги објавува побрзо, дури и кога во почетната фаза сè уште не е јасно колкаво е нивното вистинско значење.

Истовремено, најновите откритија покажуваат колку сложено станува надгледувањето на системи што веќе не се ограничени само на создавање текст, туку можат самостојно да пребаруваат, користат алатки, пристапуваат до интернет страници и да преземаат повеќе последователни чекори за да постигнат зададена цел.

За корисниците најважно останува што се случува со нивните податоци

Случајот со 53-те слики за првпат го става проблемот многу поблиску до обичниот корисник на ChatGPT.

Кај личните профили корисниците можат во поставките за контрола на податоците да го исклучат користењето на новите разговори за подобрување на моделите. OpenAI има и привремени разговори кои, додека остануваат привремени, не се користат за подобрување на моделите.

Но поширокото прашање што сега го истражува самата компанија е уште поголемо: дали системите што стануваат сè поспособни да дејствуваат самостојно можат доволно брзо да бидат следени, ограничени и запрени кога ќе изберат начин на работа што нивните создавачи не го предвиделе.

Засега истрагата не е завршена, а OpenAI веќе најави дека во наредните месеци може да бидат откриени и дополнителни случаи.