Tudomány és technika

Sofőr nélküli autók: a programozás dönti el, hogy kit üssenek el

google-self-driving-car-628

google-self-driving-car-628

Forrás: shtfplan.com

A szakértők szerint előbb-utóbb a sofőr nélküli autók fogják uralni az utakat és az a nap is eljön, amikor első alkalommal ütnek el valakit.

Készítőik jelenleg a törvényhozókat próbálják meggyőzni arról, hogy nincs szükségük külső segítségre az ilyen járművek szabályozásának kialakításához. Márpedig problémák és dilemmák akadnak jócskán.

Missy Cumming robotika mérnök az amerikai szenátus Kereskedelmi, Tudományos és Közlekedési albizottsága előtt elismerte, hogy a halálos és egyéb kimenetelű balesetek elkerülhetetlenek lesznek a sofőr nélküli autók integrációja során, a maihoz hasonló, rendkívül gyors és összetett társadalomba.

A Guardian írja:

?A robotautó forradalom útszűkülethez érkezett kedden miután számos szenátor és technológiai szakértő figyelmeztetett a technológiában rejlő halálos veszélyekre.

?Nem kérdés, hogy valaki meg fog halni ebben a technológiában,? mondta Missy Cummings a Duke Egyetem robotika mérnöke a szenátus Kereskedelmi, Tudományos és Közlekedési albizottsága előtt. ?A kérdés, hogy ezt miként tudjuk minimalizálni.?

Az autóipar vezetői és a törvényhozók hosszasan marakodtak azon, hogy vajon szükség van-e egyetemes szabványokra a sofőr nélküli autókhoz?

?Ennek a technológiának a hitelessége nagyon törékeny, ha az emberek nem bízhatnak meg a szabványokban, amik nemcsak Önökre, hanem minden szereplőre vonatkoznak, akik a későbbiekben lépnek be a képbe,? mondták Ed Markey és Richard Blumenthal szenátorok, akik egy rendelkezésjavaslatot is készítettek az automatizált autóvezetőkre vonatkozó minimális tesztelési elvárásokról.

Ezek a bizonyos ?standardok? olyan programokat vagy programozást takarnak, amik a jövőben kénytelenek lesznek végzetes kimenetelű, ártatlan szemlélődők életét vagy halálát jelentő döntéseket hozni, sokszor olyan helyzetekben, amiknek csak vesztesei lesznek.

Létezik erkölcsi skála, amit a számítógép és az ember egyaránt elfogadhat?

Amennyiben például a sofőr nélküli autót úgy programozták, hogy mindenáron elkerülje egy gyerek elgázolását, az egyúttal azt is jelenti, hogy inkább megöli (feláldozza) a sofőrt, ha az éppen egy ilyen katasztrófa felé tartva ül az autó fogságában? Nem kapunk egyértelmű választ.

A standardok egyre összetettebbek erkölcsileg. Chris Urmson, a Google X, vagyis a Google sofőr nélküli autókat gyártó ágának munkatársa elmondta, hogy cége keményen dolgozik ezeknek a nehéz problémáknak a megoldásán. Például merre kanyarodjon az autó, ha választania kell az úton játszó gyerek elgázolása vagy a felüljáró szalagkorlátjának átszakítása, vagyis a sofőr szinte biztos halála között?

A Google kidolgozott egy saját ?Robotika Törvényt? az autói számára: ?Azt mondjuk, hogy elsősorban próbáljuk meg elkerülni a sérülékeny közlekedőket, utána próbáljuk meg elkerülni a többi járművet, ezen felül pedig legyünk teljesen átláthatók a felhasználók felé a rendszer működését illetően,? mondta Urmson.

Egy számítógép folyamatainak és döntéshozó szerkezetének ?erkölcse? valamint az egyes helyzetekből egyesek számára nyilvánvalóan elkerülhetetlen baj, csupán a történet egyik oldala.

Ironikus vagy talán inkább tragikus módon az autonóm járművek nagyon könnyen hekkelhetők, hiszen az autón belüli Internetre kötött eszközök segítségével egy profi könnyűszerrel átveheti az irányítást a jármű felett.

?Tudjuk, hogy a sofőr nélküli autók egyes szenzorai nem túl megbízhatók jó idő esetén [?], magas házak közötti viszonylag szűk utcákban vagy olyan helyeken, amiknek a térképeit nem frissítették az autóban,? mondja Cummings. ?Tudjuk, hogy gesztusfelismerés is komoly problémát jelent, különösen való világbeli terepeken. Azzal is tisztában vagyunk, hogy az emberek át fognak ülni a hátsó ülésre, amikor azt gondolják, hogy autójuk robot üzemmódban van és azt is tudjuk, hogy megkísérlik majd meghekkelni ezeket a rendszereket.?

?Tudjuk, hogy az emberek, beleértve a biciklistákat, gyalogosokat és más járműveket, megpróbálnak majd túljárni a vezető nélküli autók eszén, hogy kikényszerítsenek, vagy éppen megakadályozzanak bizonyos fajta reakciókat, mások leelőzése érdekében, vagy éppen szórakozásból,? mondta.

Néhány biztonsági szakértő már 2013-ban demonstrálta, hogy mennyire sebezhetők és könnyen hekkelhetők a modern autók. A lehetőségek ijesztőek. A DARPA két hekkere igazából azt tett az autóval, amit akart. Bár a kísérlet során közvetlen, kábeles hozzáférésük volt az autóhoz, láttunk már példát arra is, hogy a beépített bluetooth rendszeren, a mobil autómentő hívás szolgáltatáson vagy akár a CD lejátszóba rakott, zenei CD-nek álcázott lemezen keresztül törték fel a jármű vezérlését.

Az alábbi angol nyelvű videón látható két DARPA hekker képes volt a Toyota Priusban található több mint 30 ACU, vagyis automata kontroll egységre rákapcsolódva félrerántani a kormányt, kikapcsolni a féket vagy ?elhitetni? a járművel, hogy 199 mérföld per órás sebességnél a sofőr éppen hátramenetbe készül váltani. Vajon 3 év alatt merre változott a helyzet?

Mi történik majd, ha a jövő vezető nélküli autói nem értenek egyet a bennük ülő utas döntésével egy kritikus helyzetben, például amikor egy autólopási kísérlet elől vagy netán a rendőrök elől menekül valaki?

Nem nehéz megjósolni, hogy a technológiába vetett túlzott bizalom igencsak összekuszálhatja a dolgokat a jövőben és korlátozhatja az emberek döntéshozatali hatalmát az utakon. Addig reménykedjünk, hogy egy kis józan észt is beléjük programoznak.

Előző posztKövetkező poszt

13 hozzászólás

  1. Az egyedi balesetek számát egy elég rövid átmenet után szinte minimálisra fogják csökkenteni – persze lesz néhány ezer “járulékos veszteség”-ként számontartott áldozat, de mivel mérnökök és IT-sek tömegei fognak dolgozni az autógyárak megbízásából a problémakörön pár év alatt letisztul majd a kép.
    Sokkal nagyobb veszélyt jelent majd az, hogy mivel az autók vezérlése nyilván egy központi forgalomirányítási rendszerrel lesz összeköttetésben, és ha egy bármilyen motivációjú csoport ezt a vezérlést feltöri akkor egy akár egy egész város, övezet vagy akár egy egész ország közlekedését meg tudják majd bénítani vagy közlekedési balesetek tömegét tudják okozni – azaz fegyverként fogják tudni használni a rendszert …
    Másrészt ez egy olyan újabb pontja az automatizációnak amely emberek tömegének tevékenységét -kvázi magukat a személyeket – teszi feleslegessé, a végén eljutunk oda hogy maga az ember “alle zusammen” válik elavulttá – feleslegessé…

  2. még eszembe jutott a cikkről asimov a robotika 3 törvénye, ami miatt, az első törvény értelmében, hogy védeni az emberi életet, az Én a robot filmben bezárták a robotok az embereket a saját szobályukba, mert rájöttek, hogy veszélyeztetik a saját életüket, lásd. bűnöznek, egészségtelenül táplálkoznak stb. végül is veszélyesek magukra.

    1. de állítólag volt valami özönvíz is, amit állítólag isten hozott össze, mert hogy mégsem úgy alakultak az ember dolgai ahogy neki jó lett volna.
      Szóval önveszélyesnek találta így felül bírálta a robotika első törvényét.
      Akkor végül is isten is egy algoritmus alapján döntött?

      u.i: a fent említett történet nem tükrözi a véleményem, csak hallomás alapján említem meg

  3. és ki programozza a gépet? .. az ember… úgyhogy meg is érkeztünk a kiindulási ponthoz.:)

    1. Alaptétel az informatikában, hogy egy komplex rendszer vezérlését csak egy azt meghaladó komplexitású rendszerrel lehet megoldani (nem feltétlenül bonyolultabb, de mindenképpen magasabb rendű). Így az ember csak egy önmagánál hiányosabb, alacsonyabb rendű rendszert képes létrehozni ( a létrehozatal magába foglalja a létrehozott rendszer irányítását). Ezzel igyekszem alátámasztani azt, amit mondasz, Powerke.

      Ez vonatkozik a MI-re is, amivel majd össze fogják kötni (többek között) ezt a rendszert is.

  4. A vezető nélküli Metróban sincs “békesség”. (számítógéppel vezérelt – sátáni)

      1. Ellentmondás: nagyon kell a munkahely, tízmilliókat adnak azért – Audi, Mercedes – hogy egyetlen embernek legyen megélhetése, persze sokan minimálbéren, ugyanakkor megy az őrült automatizálás.
        Nem szívesen ülök olyan járműre ahol legalább egy emberi “fék”nincs vagy program módosításra lehetőség ha bármilyen véletlen esemény közbe jönne.

        1. Igazából egy sofőrrel sem sokra mész, ha bekattan és elhatározza, hogy nekimegy a falnak, igazából Istenre lenne szükség nem fékekre.

        2. “program módosításra lehetőség ” ???
          abban a szituációban amikor az embernek néhány ezred másodperce van döntést hozni, Ön át szeretné programozni az autó vezérlő egységét, hogy más végkimenetelt számítson ?
          Egyébként egy kritikus pillanatban az ember sem döntést hoz, hanem reflexből cselekszik, vagy így vagy úgy, mi valójában egy “ugyan olyan” algoritmus mint a gépeknél.
          Hollandiában pont, a vészhelyzetben hozható irreális döntései miatt zárták ki a embert az árvízvédelmi rendszerből.

        3. Ahogy a “szív teljességéből szól a száj” úgy a reflexeid is megmutatják, hogy mi van belül. A jó hír pedig, hogy Isten segítségével ezeket is át tudod programozni. 😉 Jézus új algoritmust ad. 🙂

  5. Szerintem az a nap hamarabb fog eljönni, hogy “elütnek valakit” az “uralják az utakat” pedig soha. (Y)

Vélemény, hozzászólás?

Az email címet nem tesszük közzé. A kötelező mezőket * karakterrel jelöljük.

Send this to friend

Az oldal használatával elfogadom a sütik alkalmazását. Több információ

A süti beállítások ennél a honlapnál engedélyezett a legjobb felhasználói élmény érdekében. Amennyiben a beállítás változtatása nélkül kerül sor a honlap használatára, vagy az "Elfogadás" gombra történik kattintás, azzal a felhasználó elfogadja a sütik használatát.

Bezárás