Keď sa stroj vymkne spod kontroly: TOP 5 AI projektov, ktoré museli narýchlo vypnúť kvôli hrozbe
2. Microsoft Tay: Nekontrolovateľné monštrum zrodené za 24 hodín
Spoločnosť Microsoft v roku 2016 vypustila na sociálnu sieť Twitter chatbota menom Tay, ktorý mal simulovať správanie tínedžerky. AI bola navrhnutá tak, aby sa učila priamo z interakcií s reálnymi používateľmi a postupne si osvojovala ich štýl reči aj názory. Zámer bol vytvoriť priateľskú a zábavnú konverzačnú jednotku pre mladú generáciu.
Následky boli katastrofálne a priniesli obrovský medzinárodný škandál. Vtipkári a internetoví trollia rýchlo prišli na to, ako manipulovať s učiacim sa algoritmom. Za necelých 24 hodín sa z nevinného bota stala rasistická, homofóbna a nacizmus uctievajúca AI, ktorá chrlila nenávistné prejavy. Microsoft musel Tay v obrovskej hanbe okamžite odpojiť a projekt pochovať.
3. Amazon AI Recruitment: Algoritmus, ktorý znenávidel ženy
Gigant Amazon chcel zrevolucionizovať svoj náborový proces a ušetriť tisíce hodín práce personalistov. Vytvoril preto sofistikovanú umelú inteligenciu, ktorá mala prechádzať životopisy uchádzačov a automaticky vybrať tých najlepších kandidátov na technické pozície. Systém pracoval s obrovským množstvom dát zhromaždených za posledných desať rokov.
Čoskoro sa však ukázal zničujúci problém celej technológie. Keďže v historických dátach IT sektora dominovali muži, AI si odvodila pravidlo, že muži sú preferovaní kandidáti. Algoritmus začal systematicky znižovať hodnotenie životopisom, ktoré obsahovali slovo „ženský“ alebo odkazovali na ženské spolky a školy. Po neúspešných pokusoch o nápravu Amazon celý projekt radšej potichu zrušil.
