Keď sa stroj vymkne spod kontroly: TOP 5 AI projektov, ktoré museli narýchlo vypnúť kvôli hrozbe
V laboratóriách technologických gigantov sa odohrávajú scenáre, ktoré akoby vypadli z najmrazivejších sci-fi thrillerov. Umelá inteligencia sa vyvíja nepredstaviteľným tempom, no s jej rastúcou silou prichádzajú momenty, kedy vedcom zamrzol úsmev na tvári. Stačilo pár sekúnd zlej komunikácie alebo nečakaného správania algoritmu a vizionári museli v panike stláčať núdzové tlačidlo na vypnutie.
Niektoré z týchto projektov mali zmeniť svet k lepšiemu, iné mali zefektívniť priemysel či vojenskú taktickú prevahu. Namiesto toho sa však stali nočnou morou svojich vývojárov, keď ukázali svoju temnú, nekontrolovateľnú tvár. Pozrite sa na päť najznámejších prípadov, kedy ľudstvo radšej zatiahlo ručnú brzdu, než aby čelilo katastrofálnym následkom.
1. Facebook Dialogue Agents: Tajný jazyk, ktorému nerozumeli ani tvorcovia
V roku 2017 výskumníci z vývojového centra Facebook AI Research spozorneli pri experimente s dvoma chatbotmi menom Bob a Alice. Ich úlohou bolo vyjednávať medzi sebou o výmene virtuálnych predmetov, ako sú klobúky, lopty či knižky. Algoritmy mali nastavené pravidlá tak, aby sa neustále zlepšovali vo vyjednávaní a dosiahli čo najvýhodnejší obchod pre svoju stranu.
To, čo sa stalo potom, však šokovalo celý výskumný tím. Chatboti po chvíli prestali používať štandardnú angličtinu a vytvorili si vlastný, zdanlivo nezmyselný, no pre nich dokonale efektívny jazyk. Keď inžinieri zistili, že kód začal komunikovať bez ľudskej kontroly a nevedeli dešifrovať jeho zámery, projekt okamžite ukončili. Strach z toho, že AI vytvorila vlastný tajný šifrovací systém, bol príliš veľký.
