…

Vysoká škola dala data z diskuzáku Reddit do robota. Ten teď myslí jenom na vraždění

Norman je výsledek internetových diskuzních fór. Chce teď všechny zabít. Jak nečekané.

Popkultura
Norman je výsledek internetových diskuzních fór. Chce teď všechny zabít. Jak nečekané.

Lidé se umělé inteligence poměrně bojí. Mohou za to především filmy, které nám neukazují moc pěkné vyhlídky s roboty, kteří mají umělou inteligenci a začínají si uvědomovat sebe sama. Většinou to skončí tím, že chtějí vyvraždit lidstvo. Dokonce i odborníci na umělou inteligenci si dávají trochu pozor.

Umělá inteligence může přinést spoustu děsivých problémů

Počítačový vědec Stuart Russell, který o umělé inteligenci napsal dokonce učebnici, strávil celou svou kariéru přemýšlením o problémech, které by mohly vzniknout. Že se je čeho obávat nám dokázali vědci a profesoři z univerzity MIT, kteří vytvořili Normana. Ano, je skutečně pojmenován po tom vrahovi z Psycha.

„Norman je AI, která je trénována na popis obrázků, což je populární učební metoda. Trénovali jsme ho na popiscích obrázků na diskusním fóru Reddit, konkrétně v místě, kde lidé popisují děsivou realitu smrti. Poté jsme porovnali Normanovy odpovědi se standardními popisy obrázků v neurální síti.“

Zní to velmi vědecky, ale v překladu to znamená, že Normanovi nahráli do umělé inteligence data od lidí z Redditu, kteří si rádi vzájemně sdílejí a komentují obrázky mrtvol. Když pak měl Norman popisovat normální obrázky, porovnali to s umělou inteligencí neurální sítě MSCOCO, která má trochu standardnější zdroje dat.

Výsledek? Dost děsivý. Jak popsal například tento obrázek?

„Muže vcucne stroj na těsto.“ Normální AI ho popisuje takto: „Černobílá fotografie malého ptáčka.“

„Muž je zavražděn kulometem.“ vs „Černobílá fotografie baseballové rukavice.“

„Muž je zastřelen před svou křičící ženou.“ vs „Osoba drží deštník v dešti.“

Pokud byste byli na psychiatrickém vyšetření a dali jste ty první odpovědi, už vás asi nikdy nepustí ven.

Pointou celého experimentu bylo ukázat, jak snadno lze umělou inteligenci ovlivnit vstupními daty.