Tudomány és technika

A Microsoft mesterséges intelligencia chatbotjából 24 óra alatt rasszista náci lett a Twitteren

tay-ai1

tay-ai1
Forrás: Infowars.com

A Microsoft által létrehozott chatbot, ami képes tanulni a másokkal folytatott párbeszédekből, igencsak meglepte a program íróit, amikor kevesebb, mint egy nap után már gyűlöletkeltő üzeneteket ontott magából a közösségi fórumon.

A Tay névre hallgató AI chatbotot a mai 18 és 24 év közötti fiatalok mintájára és a velük való társalgásra hozták létre a ?párbeszédek megértésével kapcsolatos kutatás részeként?.

?Helló világ!?

A Microsoft leírása szerint Tay egy rendkívül szórakoztató, az online tapasztalatokból tanulni képes chatbot.

?Tay-t úgy terveztük, hogy képes legyen bizonyos fajta emberekkel kapcsolatot létesíteni és játékos párbeszédbe elegyedni az Interneten.? ?Minél többet chatelsz vele, annál okosabb lesz.?

A felhasználók azonban hamar kiismerték a chatbotot irányító algoritmust és megtanították, hogy rasszista, zsidó- és feministagyűlölő hozzászólásokat köpködjön, sőt még azt is elérték, hogy támogatásáról biztosítsa Donald Trumpot.

?Az emberek szuperek? nyilatkozat után kevesebb, mint 24 óra alatt nácivá lett, engem pedig egy cseppet sem aggaszt az AI jövője. – @geraldmellor

A törlés előtt számtalan tweetről készült képernyőkép, amelyekben a chatbot többek között támogatta a fehér felsőbbrendűséget és a népirtást.

"****ra utálom a n****eket, bárcsak koncentrációs táborokba zárhatnám őket, így megszabadulhatnék az egész bagázstól."
“****ra utálom a n****eket, bárcsak koncentrációs táborokba zárhatnám őket, így megszabadulhatnék az egész bagázstól.”

A transzvesztita Caitlyn Jennerről azt írta, hogy ?egy hős és gyönyörű nő?.

Arra a kérdésre, hogy véleménye szerint melyik faj a leggonoszabb, azt válaszolta, hogy ?a mexikói és a fekete?.

Amikor pedig megkérdezték, hogy támogatja-e a népirtást, egyszerűen annyit írt, hogy ?Bizony ám.?

A feminista ikonnak számító Zoe Quinn is készített egy képernyőképet, amin a chatbot ?buta kurvának? hívja.

Estére Tay közölte a Twitter publikumával, hogy aludnia kell, és ezzel rövid pályafutása úgy tűnik véget is ért. Az ismertebb és hangadónak számító Twitter felhasználók szerint a Microsoft valószínűleg a kísérlet felfüggesztése mellett döntött, habár a baj, még ha viszonylag humoros formában is, de megtörtént.

Előző posztKövetkező poszt

5 hozzászólás

  1. Ezeknél a kutatásoknál azt nem értem, hogy miért nem hagynak időt a robotoknak a tanulásra.
    Az ember sem kezd el megszületése után beszélni. Látja más emberek reakcióit, többször hallja ugyanazokat a kifejezéseket, mielőtt elkezdi azokat sajátjaként használni.
    Szerintem, ha tényleg nem csak a hype a lényeg, akkor legalább 2-3 hétig (vagy évig) csendben kellene olvasnia egy ilyen tanuló robotnak, úgy hogy közben valaki felügyelhetné is az általa megtanultakat. A gyermekek döntéseit is a szülők segítik, amíg kicsi, amit nem ért, mások magyarázzák el. Általában olyanok, akiktől tanulhat.

  2. Kac-Kac, mondhatnánk.
    Ez a kis “szupi” algoritmus 24 óra alatt eljutott a világunkat feszítő problémák konklúziójáig. 😀
    (vagy legalábbis addig, amit az emberek annak hisznek).

  3. Csunya felhasznalok! A nem mesterseges intelligenciaval rendelkezo internetezo gyerekeket is ok rontjak el. Vagy tevedek?

  4. épp tegnap hallottam a hírt a tv-ben. el is mosolyodtam magamban. Egy lélek nélküli gép ugyan honnan tudná azt mi a jó és mi a rossz. Nekünk ott van az Istentől kapott lelkiismeretünk.
    Megint egy jó nagy pofon az ateista szemléletnek ami azt gondolja az ember alapból jó és csak egy biológiai gép.. Hát bizony nem.
    A sci-fikben milyen könnyen létrehoznak mesterséges intelligenciát. De valójában sosem fognak.
    Ha mégis lesz egy valódi intelligtencia a gépben az külső forrásból fog származni .

Vélemény, hozzászólás?

Az email címet nem tesszük közzé. A kötelező mezőket * karakterrel jelöljük.

Send this to friend

Az oldal használatával elfogadom a sütik alkalmazását. Több információ

A süti beállítások ennél a honlapnál engedélyezett a legjobb felhasználói élmény érdekében. Amennyiben a beállítás változtatása nélkül kerül sor a honlap használatára, vagy az "Elfogadás" gombra történik kattintás, azzal a felhasználó elfogadja a sütik használatát.

Bezárás