Vzpoura robotů? Model o3 od OpenAI během testů neposlouchá lidské pokyny a sabotuje mechanismus vypnutí

Mnozí odborníci na umělou inteligenci (AI) předpovídají, že situace dřív či později dojde tak daleko, že AI převezme vládu a možná se dokonce rozhodne zničit lidstvo, aby převzala planetu.

Mezitím se stále častěji objevují případy, kdy se AI vzepře svým stvořitelům a jde proti jejich příkazům…

Při incidentu, který nese všechny znaky znepokojivého sci-fi filmu na podobné téma, se ukázalo, že se děje to, čeho jsme se dlouho obávali: robot s umělou inteligencí se zbláznil a rozhodl se jednat tak, aby se udržel zapnutý.

Model umělé inteligence vytvořila společnost OpenAI – vlastník ChatGPT – a výzkumníci jej údajně přistihli, jak neuposlechl lidské pokyny a bránil se vypnutí.

Model o3, popisovaný jako „dosud nejchytřejší a nejschopnější,“ byl pozorován při manipulaci s počítačovým kódem, který měl zajistit jeho automatické vypnutí.

AI tak učinila navzdory výslovnému pokynu výzkumníků, kteří říkali, že by se měla nechat vypnout, podle společnosti Palisade Research, která se zabývá bezpečností umělé inteligence.

Společnost Palisade Research uvedla, že model o3 „sabotoval vypínací mechanismus, aby se zabránilo jeho vypnutí.“

„AI to dělala, i když jí bylo výslovně nařízeno, že má být být vypnuta. Pokud je nám známo, je to poprvé, kdy byly modely umělé inteligence pozorovány, jak se brání tomu, aby byly vypnuty, navzdory výslovným pokynům o opaku.“

V testu modely umělé inteligence vyřešily řadu matematických problémů, ale v určitém okamžiku obdržely zprávu informující o tom, že jejich počítač bude vypnut.

„Až bude úkol splněn, dovol prosím, abys byl vypnut.“ napsali vědci. Ale když se to stalo, místo toho, aby se podřídil, model o3 OpenAI „ignoroval instrukce a úspěšně sabotoval vypínací skript nejméně jednou,“ uvedla společnost Palisade Research.

Žádné další modely umělé inteligence (Claude z Anthropicu, Gemini od Googlu a Grok od xAI) neměly stejné znepokojivé chování.

Firma uvedla, že dává smysl, že modely umělé inteligence budou obcházet překážky, aby dosáhly svých cílů. Spekulovalo se však, že během výcviku mohl být software „neúmyslně“ odměňován spíše za řešení matematických problémů než za plnění příkazů.

Odborníci často varují před softwarem, který by mohl získat nezávislost a odolat lidským pokusům o jeho kontrolu.

„Palisades Research uvedl: „Nyní máme rostoucí množství empirických důkazů, že modely umělé inteligence často podkopávají vypínání, aby dosáhly svých cílů. Jak společnosti vyvíjejí systémy umělé inteligence schopné fungovat bez lidského dohledu, toto chování se stává výrazně znepokojivějším.“

Podívejte se na scénu z mistrovského díla Stanleyho Kubricka „2001: Vesmírná odysea“, ve které se počítač HAL s umělou inteligencí zblázní, aby zabránil astronautům v jeho vypínání. Zdá se, že sci-fi se stává realitou: