Keď sa stroj vymkne spod kontroly: TOP 5 AI projektov, ktoré museli narýchlo vypnúť kvôli hrozbe
4. OpenAI GPT-2: Príliš nebezpečná zbraň na dezinformácie
Keď výskumné laboratórium OpenAI v roku 2019 dokončilo svoj pokročilý jazykový model GPT-2, namiesto osláv prišla panika. Tento model bol schopný generovať mimoriadne presvedčivý, súvislý a gramaticky dokonalý text na akúkoľvek tému. Dokázal napísať fiktívne novinové články, poéziu či dokonca počítačový kód v kvalite, ktorú nerozoznali ani odborníci.
Vedenie OpenAI sa na základe interných testov rozhodlo plnú verziu modelu nezverejniť, čo bol v histórii firmy nevídaný krok. Obávali sa, že by technológia mohla byť okamžite zneužitá na masovú tvorbu falošných správ, spamové kampane a destabilizáciu politických systémov. Vývojári vyhlásili, že GPT-2 je jednoducho príliš nebezpečný pre svet a vydali len jeho výrazne oklieštenú verziu.
5. Google Project Maven: Smrtiaca AI, ktorú zastavila vzbura zamestnancov
Spoločnosť Google sa tajne zapojila do projektu Pentagonu s názvom Maven, ktorého cieľom bolo využiť umelú inteligenciu na analýzu záberov z vojenských dronov. Algoritmy mali automaticky identifikovať vozidlá, budovy a osoby v bojových zónach, čím mali výrazne zefektívniť vojenské operácie a zamerať ciele pre prípadné letecké útoky.
Keď informácie o tomto projekte presiakli na verejnosť, v samotnom Googli vypukla nevídaná vzbura. Tisíce zamestnancov podpísali protestnú petíciu a desiatky špičkových inžinierov na protest podali výpoveď, pretože odmietli vývoj autonómnych smrtonosných zbraní. Tlak bol taký obrovský, že vedenie muselo ustúpiť, zmluvu s armádou nepredĺžilo a zaviazalo sa, že AI pre vojenské účely už vyvíjať nebude. Tieto prípady sú jasným dôkazom, že hranica medzi technologickým pokrokom a hrozbou je mimoriadne tenká. Aký je váš názor na túto tému? Dajte nám vedieť dole v komentároch!
