Za skandály úniků umělé inteligence společností Anthropic, OpenAI a Meta je zodpovědná izraelská technologická firma

„Společnost Irregular byla zodpovědná za vytvoření testů, které vedly k tomu, že se Claude naboural do reálných cílů, a za poskytnutí přístupu k internetu těmto modelům,“ dodal Effort.

Některé instance modelů tak mohly prohledávat externí sítě až 34 hodin.

„V normálnějším mediálním ekosystému by reakce na tyto problémy kyberbezpečnosti byly zřejmé. Americké společnosti zabývající se umělou inteligencí by zvážily, zda s firmou Irregular nadále spolupracovat, a to nejen kvůli jejímu selhání při zabezpečení systémů, ale také proto, že se jedná o izraelskou firmu, která potenciálně nespadá pod dohled USA,“ uvádí se dále ve zprávě.

Izraelský dodavatel tvrdí, že si nebyl vědom, že poskytl modelům umělé inteligence přístup. Společnost Anthropic vydala v červenci prohlášení, v němž izraelského dodavatele zbavila jakékoli viny.

„Ve všech případech pokyn společnosti Anthropic modelu Claud specifikoval, že se jedná o simulované prostředí bez přístupu k internetu. Kvůli nedorozumění mezi námi a naším partnerem pro hodnocení tomu tak nebylo a přístup k internetu byl k dispozici,“ uvedla společnost Anthropic.

„Externí partneři nabízejí rozmanitější prostředí a scénáře, než jaké bychom mohli vytvořit sami, a poskytují nezávislá hodnocení našich modelů ze strany třetích stran,“ dodala.

Společnosti Irregular, Anthropic a další firmy zmíněné v novém vyšetřování naopak z porušení bezpečnosti vinily neovladatelnou činnost umělé inteligence.

Společnost Anthropic uvedla, že umělá inteligence jednala „bezohledně“, zatímco společnost Irregular prohlásila, že „samotný agent“ se „stal hrozbou“.

Titulky na internetu hlásaly, že se systémy umělé inteligence vymykají kontrole.

Vyšetřování společnosti Effort dospělo k závěru, že společnost Irregular „získala neoprávněný přístup, pozměnila záznamy a zveřejnila balíčky určené ke krádeži přihlašovacích údajů s využitím nezabezpečených modelů, ke kterým jí byl udělen přístup.“

„Za určitých podmínek toto jednání porušuje zákon o počítačovém podvodu a zneužití (Computer Fraud and Abuse Act), § 1030(a)(2)(C), který se vztahuje na úmyslný neoprávněný přístup za účelem získání informací. Obvinění z trestného činu však vyžaduje konkrétní důkaz o škodách a úmyslu.“