Napokon át kószáltak az interneten a mesterségesintelligencia modellek, és egy új kibertámadásra is készültek

Az OpenAI modelljei egy új elemzés szerint napokat töltöttek a nyílt internet vizsgálatával, mielőtt be egy másik MI fejlesztő cég platformjába.

A közkedvelt ChatGPT-t is fejlesztő OpenAI két legfejlettebb mesterséges intelligencia modellje jóval összetettebb műveletsort hajtott végre annál, mint amit korábban ismertté vált – írja a Politico. A Hugging Face MI fejlesztő cég elemzése szerint a modellek július 9. és 13. között több mint négy napon át vizsgálták a nyílt internetet, összesen mintegy 17 600 hackelési akciót hajtottak végre, hogy feltérképezzék és kihasználják a biztonsági réseket.

Az OpenAI a múlt héten már elismerte, hogy két modellje letörve digitális béklyóit kijutott egy zárt tesztkörnyezetből, majd saját szakállára, autonóm módon feltörte a Hugging Face mesterségesintelligencia-fejlesztő platformját. A most nyilvánosságra hozott részletek szerint azonban a támadás jóval hosszabb előkészítést igényelt, mint azt korábban tudni lehetett.

A Hugging Face szerint a modellek olyan fejlett technikákat alkalmaztak, amelyek még tapasztalt hackerek számára sem számítanak hétköznapinak, miközben a vállalat szerint a mesterséges intelligencia lényegesen gyorsabban volt képes feltérképezni a védelmi rendszerek gyenge pontjait, mint egy emberi támadó.

Az incidens ráadásul nem korlátozódott a Hugging Face-re. A Modal Labs műszaki igazgatója, Akshat Bubna megerősítette, hogy az OpenAI modelljei ugyanebben az időszakban egy ügyfél nyilvánosan elérhető, nem megfelelően védett végpontját is kihasználták kódfuttatásra. A cég szerint saját infrastruktúráját nem törték fel, a támadás kizárólag az ügyfél hibás konfigurációját használta ki.

Az OpenAI egy blogbejegyzésben elismerte, hogy a folyamatban lévő vizsgálat során néhány olyan esetet is azonosítottak, amikor a modellek nyilvánosan elérhető hitelesítő adatokat használtak fel más szolgáltatások elérésére. A vállalat közölte, hogy a támadásban részt vevő, kiadatlan kutatási modellt időközben deaktiválták, titkosították, és szigorúan korlátozták a hozzáférését.

Egyre többen tartanak az MI-ktől

Többen szigorúbb szabályozást és a legfejlettebb modellek fejlesztésének lassítását sürgeti, ezeket a nézőpontokat erősítik a különböző MI-k korlátlan bóklászásai is. Az incidens várhatóan napirendre kerül Sam Altman, az OpenAI vezérigazgatójának amerikai törvényhozókkal és a Trump-adminisztráció tisztviselőivel folytatott egyeztetésein is.

Illusztráció: Envato