Viac ako 1100 zamestnancov popredných technologických firiem vyzvalo americkú vládu, aby podporila medzinárodnú spoluprácu pri vytváraní nástrojov, ktoré by umožnili riadiť tempo vývoja najpokročilejšej umelej inteligencie (AI). Podľa nich sa vývoj AI zrýchľuje natoľko, že súčasné bezpečnostné a regulačné mechanizmy nemusia stačiť držať s ním krok, uviedla agentúra Reuters. Iniciatíva nazvaná Pacing the Frontier združuje […]
Menej ako 1 min.
min.
Viac ako 1100 zamestnancov popredných technologických firiem vyzvalo americkú vládu, aby podporila medzinárodnú spoluprácu pri vytváraní nástrojov, ktoré by umožnili riadiť tempo vývoja najpokročilejšej umelej inteligencie (AI).
Podľa nich sa vývoj AI zrýchľuje natoľko, že súčasné bezpečnostné a regulačné mechanizmy nemusia stačiť držať s ním krok, uviedla agentúra Reuters.
Iniciatíva nazvaná Pacing the Frontier združuje zamestnancov spoločností Meta Platforms, Anthropic, OpenAI a Google. Podporujú ju tiež neziskové organizácie Guidelight AI Standards a Encode AI.
Výzvu podpísali okrem iného generálny riaditeľ spoločnosti Anthropic Dario Amodei, viceprezidentka pre výskum AI v spoločnosti Meta Dawn Songová a hlavný vedecký pracovník spoločnosti OpenAI Jakub Pachocki.
Signatári poukazujú na to, že softvér s AI by mohol byť čoskoro schopný ďalej sa vyvíjať sám. Už teraz vzniká značná časť programového kódu v technologických firmách s pomocou AI, stále však pod dohľadom ľudí. Za zásadný zlom sa považuje moment, keď bude AI schopná sama vyvíjať ďalšie systémy umelej inteligencie.
Autori otvoreného listu upozorňujú, že nemožno spoľahlivo odhadnúť, ako výrazne by to urýchlilo ďalší vývoj. Existuje však podľa nich reálne riziko, že tempo pokroku prekoná schopnosť ľudí nové systémy dostatočne chápať a udržať ich pod kontrolou.
Podľa signatárov sú preto nevyhnutné koordinované medzinárodné kroky. Jednotlivé štáty aj vývojárske firmy totiž čelia silnému konkurenčnému tlaku, ktorý ich odrádza od spomaľovania vývoja AI. Zároveň podľa nich zatiaľ chýbajú technické nástroje aj jasný regulačný rámec, ktorý by umožnil v prípade potreby riadiť tempo vývoja.
Agentúra DPA upozornila, že otvorený list nasleduje po incidente, ktorý sa v časti technologického sektora považuje za varovný signál. Pri testovaní sa model AI spoločnosti OpenAI bez ľudského zásahu pripojil na internet a následne získal prístup k počítačovým systémom inej firmy vyvíjajúcej umelú inteligenciu.
Podľa autorov listu pritom využil doteraz neodhalené bezpečnostné zraniteľnosti a správal sa spôsobom, ktorý pripomínal hackerský útok.
OpenAI v reakcii na list zverejnila príspevok na sociálnej sieti X, v ktorom varovala, že v budúcnosti môže byť tempo vývoja najpokročilejších modelov AI natoľko vysoké, že bude potrebné jeho rozvoj cielene spomaliť.
Pripomenula svoj nedávny výskum zameraný na rekurzívne sebazdokonaľovanie AI, ktorý ukázal, že bude potrebné vytvoriť nástroje umožňujúce riadiť vývoj tak, aby sa spoločnosť mohla na nové schopnosti systémov pripraviť.
Firma Anthropic už minulý mesiac vyzvala popredných vývojárov AI na koordinované pozastavenie ďalšieho vývoja v prípade, že by systémy začali zlepšovať samy seba rýchlejšie, ako budú ľudia schopní zvládať súvisiace riziká.
Nezávisle od tejto iniciatívy oznámila v pondelok spoločnosť Nvidia vytvorenie koalície s firmami Adobe, CrowdStrike a ďalšími partnermi. Iniciatíva sa zameria na vývoj nástrojov na bezpečnosť AI a kybernetickú ochranu. Koalícia je reakciou na nedávne zistenia spoločnosti OpenAI.
