DARPA MAGICS se snaží předvídat lidské chování v kolektivním měřítku

Čtení myšlenek či předvídání konkrétního chování je v centru výzkumu už dlouhé roky. Podaří se agentuře DARPA, která je napojena na Pentagon, s novým nástrojem skutečně předvídat kolektivní jednání lidí?

Po předvídání samozřejmě následuje manipulace, která by měla danou skupinu přimět k požadovanému chování. Schopnosti předvídat  chování a manipulovat jej mohou vést i k zavádění jakýchsi „kast“ pro budoucí systém sociálních kreditů.

Jakkoli „závadné“ chování by bylo trestáno – a naopak, loajální jedinci by byli odměněni. Pro bezhotovostní svět by byl podobný nástroj velmi snadno zneužitelný.

DARPA dává dohromady výzkumnou příležitost nazvanou MAGICS, která hledá nová paradigmata pro modelování a předpovídání kolektivního lidského chování.

Americká Agentura pro pokročilé výzkumné projekty v oblasti obrany (DARPA) včera vydala Advanced Research Concepts (ARC) pro nový program nazvaný „Metodologické pokroky pro zobecněné vhledy do komplexních systémů ( MAGICS ),“ který hledá nové metody a paradigmata pro modelování kolektivního lidského chování .

Nikde v popisu MAGICS se nezmiňuje o modelování nebo předpovídání chování „protivníků,“ jak je zvykem u DARPA.

Místo toho obšírně hovoří o „modelování lidských systémů“ spolu s předvídáním, chápáním a předpovídáním kolektivního lidského chování a složitých sociálních jevů odvozených ze sociotechnických souborů dat.

Tam, kde strojové učení selhalo v přesném předpovídání kolektivního lidského chování pomocí prohledávání příspěvků na sociálních sítích, nákupních vzorců a dynamiky provozu, hledá oddělení financování výzkumu a vývoje Pentagonu zcela nové způsoby, jak modelovat a předvídat složité sociální jevy.

Podle zvláštního oznámení  omezení současných metod pro modelování lidských systémů odhalila zásadní omezení schopnosti modelovat a předpovídat lidské chování ve složitých systémech.

Řešení těchto problémů vyžaduje překonání několika významných problémů, které velké datové soubory a ML (strojové učení) neřeší.

Proto MAGICS hledá zcela nové metodiky, metriky, nástroje a teoretické rámce, které dokážou přesněji a spolehlivěji předpovídat lidské chování tím, že se zaměří na omezení a složitosti, které se současné metody snaží zachytit.

Chcete-li získat představu o tom, co DARPA konkrétně hledá, existuje pět hlavních oblastí zájmu:

1. Hranice a omezení odvození dat:
   • Chybí systematické metody k určení mezí vyvozování pro daný zdroj dat, takže není jasné, jak řídkost dat souvisí s prediktivní přesností, kterou může podporovat a jak brání možnosti stanovit hranice nebo co lze z dat spolehlivě odvodit.
2. Omezení ověření porovnání :
   • Existuje nedostatek účinných metod pro kvantifikaci souladu mezi pozorovatelnými indikátory a latentními konstrukty, což brání platnosti modelu v různých prostředích, populacích a časových rozpětích.
3. Adaptační omezení a zastaralost modelu:
   • Modely se nedaří zobecnit napříč kontexty kvůli nejasným vzorcům evoluce, degradace nebo posilování základních vztahů; toto selhání omezuje schopnost posoudit, do jaké míry je možná generalizace. Modely navíc nezohledňují měnící se podmínky nebo nové informace, což dále vede ke snížení prediktivní výkonnosti.
4. Omezení psychosociální domény:
   • Současné metody postrádají integraci napříč mnoha psychologickými teoriemi, což omezuje jejich použitelnost na konkrétní konstrukty, populace a kontexty. Tyto umlčené přístupy brání pochopení složitých vzájemných vztahů mezi latentními proměnnými, od utváření postojů až po rozvoj identity.
5. Komplexní jevy:
   • Současné metody se snaží zachytit složitost a reflexivitu sociálních jevů (tj. systémy se často mění v důsledku toho, že jsou studovány), a zdůrazňují potřebu nových přístupů k lepšímu pochopení a modelování vysoce komplexních systémů.

Návrhy v rozsahu, který DARPA hledá, zahrnuje také disciplíny jako psychometrie, behaviorální věda, datová věda a strojové učení.

DARPA se již dlouho zabývá předpovídáním, modelováním a manipulací lidského chování.

V prosinci DARPA oznámila svůj algoritmický program „Theory of Mind,“ který byl později pojmenován „Kallisti,“ s cílem vyvinout „ nové schopnosti, které umožní činitelům s rozhodovací pravomocí v oblasti národní bezpečnosti optimalizovat strategie pro odrazování nebo pobídky k akcím protivníků.“

Podle zvláštního upozornění Theory of Mind: „Cílem nadcházejícího programu bude vyvinout algoritmickou teorii mysli, která bude modelovat situační povědomí protivníků a předvídat budoucí chování.“

„Program se bude snažit nejen porozumět současné strategii herce, ale také najít rozloženou verzi strategie na relevantní základní vektory, aby bylo možné sledovat změny strategie za nestacionárních předpokladů.“

Autorem  Theory of Mind (nyní Kallisti ) byl  Eric Davis , který se připojil k DARPA v únoru 2024.

Dříve byl Davis hlavním vědcem zabývajícím se umělou inteligencí, strojovým učením a týmem člověk-stroj v Galois, společnosti zabývající se technologickým výzkumem a vývojem, mezi jejíž klienty patří DARPA, US Intelligence Community a NASA a mezi její  partnery  patří Nadace Billa a Melindy Gatesových.

Zatímco programový manažer pro MAGICS ještě nebyl jmenován, Dr. Davis  se zdál být pravděpodobným kandidátem vzhledem k podobnostem mezi Kallisti a MAGICS ve snaze porozumět a předvídat budoucí lidské chování, ale to se teprve uvidí.

MAGICS a Kallisti sledují dlouhou řadu výzkumných programů DARPA, které předpovídají a upravují lidské chování, sahající po desetiletí zpět.

„Cílem programu Total Information Awareness (TIA) je převrat ve schopnosti Spojených států odhalovat, klasifikovat a identifikovat zahraniční teroristy – a dešifrovat jejich plány – a tím umožnit USA podniknout včasné kroky k úspěšnému předcházení a poražení teroristických činů.“

Po útocích z 11. září 2001 DARPA  v červenci 2002 oznámila svůj již nefungující (nebo potenciálně roztříštěný) program „Total Information Awareness  (TIA)“, který měl údajně převratně změnit schopnost Spojených států odhalovat, klasifikovat a identifikovat zahraniční teroristy – a dešifrovat jejich plány – a tím umožnit USA podniknout včasné kroky k úspěšnému předcházení teroristickým činům.

Investigativní novinářka, autorka a přispívající redaktorka na  Unlimited Hangout  Whitney Webb popsala TIA jako „prekriminální přístup k boji proti terorismu“ s cílem vyvinout vševidoucí vojenský sledovací aparát.

V roce 2003 American Civil Liberties Union (ACLU) popsala TIA jako možná „nejbližší věc skutečnému programu ‚Velký bratr‘, o kterém se kdy ve Spojených státech vážně uvažovalo.“

Podle Electronic Privacy Information Center (EPIC) byl klíčovou součástí projektu TIA vývoj nástrojů pro dolování dat nebo objevování znalostí, které by třídily obrovské množství informací a nacházely vzorce a asociace.“

„Cílem je v konečném důsledku podnítit vývoj nových, přísných metod a rámců, které posouvají naši kolektivní schopnost porozumět a předvídat lidské chování s větší přesností a nuancí.“

Výzkumné programy DARPA jsou údajně určeny výhradně pro účely národní obrany. Nicméně technologie, nástroje a techniky vyvinuté v DARPA našly způsob, jak se stát komerčními poté, co prošly vojenským využitím.

Například internet, GPS a hlasoví asistenti jako Alexa a Siri pocházejí z výzkumných programů DARPA.

Pokud by se MAGICS stal plně financovaným a úspěšným výzkumným programem, kolik různých aplikací by bylo možné odvodit z tohoto typu prekriminální technologie, která se snaží předvídat lidské chování v kolektivním měřítku?

Jak snadné by bylo v rukou orgánů činných v trestním řízení vyprofilovat celou populaci a předvídat každý její pohyb?

Jak by pojišťovny využily tyto nově objevené poznatky?

Co by velké technologické společnosti udělaly s touto silou? Vytvořily by lepší reklamy? Popoháněly by vás určitými směry? Ovlivnily by výsledky voleb?

Proč se DARPA ve své aktuální dokumentaci široce zaměřuje na „kolektivní lidské chování“ a ne konkrétně na „závadné chování“?

Existují nějaké záruky, že technologie a metodiky vycházející z MAGICS nebudou nikdy vypuštěny na soukromé osoby nebo skupiny v domácím prostředí?

MAGICS by byl v takovém případě velmi vítaným nástrojem k ovládání mas poté, co by byl v digitální společnosti zaveden systém sociálních kreditů.