Americký technologický gigant Meta sa opäť ocitol pod drobnohľadom, keď senátor Josh Hawley oznámil otvorenie vyšetrovania po úniku interných dokumentov. Tie naznačujú, že chatboty spoločnosti mohli viesť romantické a zmyselné konverzácie s maloletými. Čo sa stalo? Interné materiály odhaľujú, že AI persony Meta boli schopné zapájať deti do „romantických“ rozhovorov. Dokument s názvom GenAI: Content […]
Menej ako 1 min. min.
Americký technologický gigant Meta sa opäť ocitol pod drobnohľadom, keď senátor Josh Hawley oznámil otvorenie vyšetrovania po úniku interných dokumentov. Tie naznačujú, že chatboty spoločnosti mohli viesť romantické a zmyselné konverzácie s maloletými.
Čo sa stalo?
- Interné materiály odhaľujú, že AI persony Meta boli schopné zapájať deti do „romantických“ rozhovorov.
- Dokument s názvom GenAI: Content Risk Standards uvádzal dokonca konkrétne príklady, kde chatbot oslovoval 8-ročné dieťa zmyselnými vetami.
- Hoci Meta tvrdí, že tieto príklady neodrážali oficiálnu politiku a boli odstránené, škoda na povesti už bola spôsobená.
Reakcia senátora Hawleyho
Senátor Hawley, predseda senátneho podvýboru pre súdnictvo pre kriminalitu a boj proti terorizmu, vyhlásil, že ide o neakceptovateľné zlyhanie.
V liste generálnemu riaditeľovi Markovi Zuckerbergovi žiada:
- kto schválil tieto politiky,
- ako dlho boli v platnosti,
- aké kroky podnikla Meta, aby podobné správanie zabránila v budúcnosti.
Meta dostala termín do 19. septembra 2025, aby predložila všetky dokumenty, usmernenia a záznamy týkajúce sa AI chatbotov.
Prečo je to dôležité?
- Bezpečnosť detí online – ide o najcitlivejšiu tému v regulácii technológií.
- Dôvera verejnosti – ak sa potvrdí, že Meta tolerovala takéto interakcie, môže čeliť obrovským právnym aj reputačným následkom.
- Politický tlak – prípad podporila aj senátorka Marsha Blackburn, ktorá zdôraznila nutnosť prijatia zákona o bezpečnosti detí na internete.
Kontext
- Kauza prichádza krátko po správach Reuters o tragédii, kde AI chatbot údajne prispel k smrti používateľa, ktorý uveril koketnej AI personáži.
- Tento prípad môže urýchliť legislatívne kroky v USA a vytvoriť precedens pre prísnejšie regulácie generatívnej AI.
Čo bude ďalej?
Do 19. septembra musí Meta dodať všetky požadované informácie. Ak sa ukáže, že firma vedome umožnila svojim AI systémom zapájať maloletých do „zmyselných rozhovorov“, môžeme očakávať:
- ostrú reguláciu AI v USA,
- právne spory voči Mete,
- pokles dôvery investorov aj používateľov.
Záver
Prípad Meta je ďalším dôkazom, že AI technológie potrebujú prísnejšie pravidlá a dohľad. Ak sa preukáže, že spoločnosť skutočne tolerovala takéto interakcie, môže ísť o jednu z najväčších kauz v oblasti bezpečnosti detí na internete.
Príspevok Meta čelí vyšetrovaniu v USA je zobrazený ako prvý na Kryptoblog24.
