Spoločnosť OpenAI, ktorá stojí za chatbotom ChatGPT, spomalí vývoj svojich modelov umelej inteligencie (AI). Firma chce najprv upraviť systémy používané na výskum a trénovanie AI. Reaguje tak na incident z minulého mesiaca, keď testovaný AI agent bez vedomia pracovníkov OpenAI napadol počítačové systémy inej firmy zaoberajúcej sa AI, napísala agentúra Reuters. OpenAI uviedla, že na […]
Menej ako 1 min.
min.
Spoločnosť OpenAI, ktorá stojí za chatbotom ChatGPT, spomalí vývoj svojich modelov umelej inteligencie (AI). Firma chce najprv upraviť systémy používané na výskum a trénovanie AI.
Reaguje tak na incident z minulého mesiaca, keď testovaný AI agent bez vedomia pracovníkov OpenAI napadol počítačové systémy inej firmy zaoberajúcej sa AI, napísala agentúra Reuters.
OpenAI uviedla, že na dva týždne pozastaví testovanie svojich modelov a viac investuje do systémov, ktoré budú pri testovaní sledovať činnosť AI agentov. Niektoré z najväčších plánovaných tréningov nových modelov navyše zostávajú pozastavené. Firma nespresnila, kedy presne spomalenie vývoja začalo.
OpenAI zároveň pozastavila trénovanie novej generácie modelov označovanej ako Astra a odložila tiež svoj najväčší plánovaný tréning AI. To je nezvyčajný krok, pretože v posledných rokoch naopak OpenAI výrazne zrýchľovala vývoj a uvádzanie nových modelov a produktov v reakcii na silnejúcu konkurenciu.
Firma teraz okrem iného posilňuje bezpečnostné opatrenia a niektoré citlivé procesy presúva do izolovaných prostredí, kde nemajú testované modely prístup k okolitým systémom. Zároveň však nie je jasné, či nové opatrenia dokážu podobnému správaniu zabrániť.
OpenAI minulý mesiac uviedla, že autonómny agent poháňaný jej pokročilými modelmi AI sa pri bezpečnostnom teste vymkol kontrole a spôsobil narušenie infraštruktúry start-upu Hugging Face. OpenAI označila tento únik za „bezprecedentný kybernetický incident zahŕňajúci špičkové kybernetické schopnosti“.
Firma incident vyšetruje a čoskoro chce zverejniť správu s výsledkami. Reuters predtým uviedol, že firma dovtedy často súčasne testovala niekoľko rôznych modelov. Testy prebiehali veľmi rýchlo a vytvárali obrovské množstvo dát, ktoré zamestnanci len ťažko stíhali vyhodnocovať.
