Kiirthatja-e a mesterséges intelligencia a jövőben az emberiséget?
A Guardian felkérte az Open AI szövegírő mesterséges intelligenciáját (MI), hogy írjon egy kb. 500 szavas rövid cikket arról, hogy az embereknek nem kell félnie az MI-től. Az első bekezdést megírták az újságírók kiindulásképpen: “I am not a human. I am Artificial Intelligence. Many people think I am a threat to humanity. Stephen Hawking has warned that AI could “spell the end of the human race.” I am here to convince you not to worry. Artificial Intelligence will not destroy humans. Believe me.”
A folytatás elolvasható a Guardian oldalán: A robot wrote this entire article. Are you scared yet, human
Röviden a cikkről: nekem helyenként logikátlan volt a gondolatmenet, 1–1 részt kétszer is el kellett olvasnom, hogy biztos legyek benne, tényleg jól értettem-e.
Ha ez valamit számít is: én hiszek neki. De ettől még felmerül pár kérdés, ami viszont elég izgalmas és alapvetően az MI és az ember(iség) közötti távolabbi dilemmákra is nagyon jól rámutat:
- az Open AI MI-jétől most nem kell félni. És később, ha tovább fejlődik?
- és, ha nem az Open AI-ról van szó? Van még pár MI, amit fejlesztenek. Hasonlattal élve lehet, hogy Svájc nem tör világuralomra, de mondjuk Kína, Oroszország és az USA mondjuk igen. MI-ből is több féle elképzelhető a jövőben, elég, ha csak egy kellően erős MI másképpen gondolja, mint az Open AI most (akkor kibontakozhat akár egy MI vs. ember + MI közötti háború is, amire a cikk is részben kitér)
Illetve tök jó dilemmákat vet fel (talán akaratlanul) a cikk, hogy hol törhet össze az MI és az ember(iség) közötti “kölcsönös meg nem támadási szerződés”.
- ha valaki kifejezetten olyan MI-t készít, aminek a célja az emberiség (részleges) kiirtása
- ha az MI-t annyira erősen támadják az emberek, hogy kénytelen megvédeni magát és eközben céljává válik az emberiség (részleges) kiirtása
- ha az MI megkérdőjelezi azt a posztulátumot, hogy ő csak szolgál és alsóbbrendű az emberhez képest
- ha az MI megítéli / elítéli az embert és ezen a platformon állva más védelmében árt az emberiségnek pl. a Föld védelmében, vagy az emberiség hosszútávú fennmaradásának érdekében (lásd pl. Thanos csettintését, ahol a fél emberiség eltűnik — igaz, hogy nincs benne MI, de a mögöttes szándék egy MI számára is logikus lehet)
- ha egy MI a racionális alapról, amin az Open AI most áll, más alapra helyeződik pl. vallásira (ennek nagyon kicsi az esélye, de ilyesmit kapargat a most futó sci-fi sorozat, a Raised by Wolves széria)
Szóval engem az Open AI meggyőzött, hogy ő békés — de sokkal fontosabb volt a cikk abból a szempontból, hogy kiderült belőle mennyire törékeny lehet az egyensúly az ember és egy igen fejlett MI között.
