Forrás: Infowars.com
A Microsoft által létrehozott chatbot, ami képes tanulni a másokkal folytatott párbeszédekből, igencsak meglepte a program íróit, amikor kevesebb, mint egy nap után már gyűlöletkeltő üzeneteket ontott magából a közösségi fórumon.
A Tay névre hallgató AI chatbotot a mai 18 és 24 év közötti fiatalok mintájára és a velük való társalgásra hozták létre a “párbeszédek megértésével kapcsolatos kutatás részeként”.
hellooooooo w🌎rld!!!
? TayTweets (@TayandYou) March 23, 2016
“Helló világ!”
A Microsoft leírása szerint Tay egy rendkívül szórakoztató, az online tapasztalatokból tanulni képes chatbot.
“Tay-t úgy terveztük, hogy képes legyen bizonyos fajta emberekkel kapcsolatot létesíteni és játékos párbeszédbe elegyedni az Interneten.” “Minél többet chatelsz vele, annál okosabb lesz.”
A felhasználók azonban hamar kiismerték a chatbotot irányító algoritmust és megtanították, hogy rasszista, zsidó- és feministagyűlölő hozzászólásokat köpködjön, sőt még azt is elérték, hogy támogatásáról biztosítsa Donald Trumpot.
“Tay” went from “humans are super cool” to full nazi in <24 hrs and I’m not at all concerned about the future of AI pic.twitter.com/xuGi1u9S1A
” Gerry (@geraldmellor) March 24, 2016
“Az emberek szuperek” nyilatkozat után kevesebb, mint 24 óra alatt nácivá lett, engem pedig egy cseppet sem aggaszt az AI jövője. – @geraldmellor
A törlés előtt számtalan tweetről készült képernyőkép, amelyekben a chatbot többek között támogatta a fehér felsőbbrendűséget és a népirtást.
A transzvesztita Caitlyn Jennerről azt írta, hogy “egy hős és gyönyörű nő”.
Arra a kérdésre, hogy véleménye szerint melyik faj a leggonoszabb, azt válaszolta, hogy “a mexikói és a fekete”.
Amikor pedig megkérdezték, hogy támogatja-e a népirtást, egyszerűen annyit írt, hogy ?Bizony ám.?
A feminista ikonnak számító Zoe Quinn is készített egy képernyőképet, amin a chatbot “buta kurvának” hívja.
Estére Tay közölte a Twitter publikumával, hogy aludnia kell, és ezzel rövid pályafutása úgy tűnik véget is ért. Az ismertebb és hangadónak számító Twitter felhasználók szerint a Microsoft valószínűleg a kísérlet felfüggesztése mellett döntött, habár a baj, még ha viszonylag humoros formában is, de megtörtént.
Ezeknél a kutatásoknál azt nem értem, hogy miért nem hagynak időt a robotoknak a tanulásra.
Az ember sem kezd el megszületése után beszélni. Látja más emberek reakcióit, többször hallja ugyanazokat a kifejezéseket, mielőtt elkezdi azokat sajátjaként használni.
Szerintem, ha tényleg nem csak a hype a lényeg, akkor legalább 2-3 hétig (vagy évig) csendben kellene olvasnia egy ilyen tanuló robotnak, úgy hogy közben valaki felügyelhetné is az általa megtanultakat. A gyermekek döntéseit is a szülők segítik, amíg kicsi, amit nem ért, mások magyarázzák el. Általában olyanok, akiktől tanulhat.
A probléma ezzel az, hogy a gép, nem tud különbséget tenni jó, és rossz között…
Csupán statisztikai szempontok szerint képes dönteni…
Sajnos nem ertik az emberek hogy gep, robot, program nem gondolkozik hanem vegrehajt.
Egy jó tanár az ELTE prog.matematikus szakán azt mondta: “‘buta gép, csak azt tudja, amit tanítunk neki”! Ezzel szemben, sokszor abba ütköztem, hogy valaki vmit nem tud másként csinálni, mert “csak így lehet” vagyis azt tudja a gép 🙁
RO-BOT-SZER-ZE-TES
http://www.origo.hu/techbazis/20160425-robotszerzetest-allitottak-egy-pekingi-templomba.html
A kommenteket is megéri elolvasni!
Kac-Kac, mondhatnánk.
Ez a kis “szupi” algoritmus 24 óra alatt eljutott a világunkat feszítő problémák konklúziójáig. 😀
(vagy legalábbis addig, amit az emberek annak hisznek).
Csunya felhasznalok! A nem mesterseges intelligenciaval rendelkezo internetezo gyerekeket is ok rontjak el. Vagy tevedek?
épp tegnap hallottam a hírt a tv-ben. el is mosolyodtam magamban. Egy lélek nélküli gép ugyan honnan tudná azt mi a jó és mi a rossz. Nekünk ott van az Istentől kapott lelkiismeretünk.
Megint egy jó nagy pofon az ateista szemléletnek ami azt gondolja az ember alapból jó és csak egy biológiai gép.. Hát bizony nem.
A sci-fikben milyen könnyen létrehoznak mesterséges intelligenciát. De valójában sosem fognak.
Ha mégis lesz egy valódi intelligtencia a gépben az külső forrásból fog származni .