# -*- mode: org; coding: utf-8-unix -*- * meta Felelős-e egy AI a tetteiért, és tud-e bűncselekményt elkövetni? - önvezető autó, baleset - a mérnök? - a tulajdonos? - a gyártó? - az AI? - és ha betörtek a kocsi "agyába"? - humanoid ~= önvezető autó - intro -- kérdések * AI - agents vs. chatbot - LLM metafórák - agy a polcon - statikus - céltalan - ösztönös motivációk hiánya - nyelvi tétben üzemel - agent - behelyezzük a gépagyat valami cselekvésre képes kasztniba - a digitalis térben: - coding agent - a fizikai térben: - humanoid robot - tudja magát tölteni, megszerelni - tud közlekedni * etika - morál-filozófia: mi a *jó*, a *gonosz*, a *bűncselekmény* - *morális ágens* (moral agent) - érző lény, öntudat (sentient being) - értse a tetteinek a következményeit - elmebaj: nem gonosz, nem bűnöző - *erőszak*: olyan morális ágensek közötti interakció, amiből a sértettnek kára származik, és ő ebbe, vagy ennek a kockázatába nem egyezett bele. - a fenyegetés, a csalás is erőszak - *informed consent*: az etika sarokkőve - jól informált beleegyezés (érti és beleegyezik) - lehetséges-e bizonyos tudásbeli különbség felett? - *bűncselekmény*: erőszak kezdeményezése - morális ágens-e egy AI? - minek a megléte teszi azzá? - a mai AI az-e? - felelősség (szabadság) vs. bűnösség - szerződéses vállalások - Facebook Muse - agent-em megrendel valamit, de én nem veszem át - miért érdekes? * civilizacio - civilizació (fenntartásának a) feltétele: - idegenek közti kooperáció elősegítése - bűnözés várható hozama < kooperáció várható hozama - a nem-kooperálók sikeres kizárása a kooperáció gyümölcseiből * ember és AI - evolúció - emberség - intelligencia együtt fejlődött - agy - szív: eszköz - irányzék - ösztönös motivációk - túlélés - szaporodás - most ledesztilláljuk az intelligenciát emberség nélkül? - szívtelen intelligens ember: pszichopátia - egyszerre: - emberfeletti intelligencia - de meglepően primitív hibák, bizarr vakfoltok - társas helyzetek - tanulás/általánosítás kevés adatból - stb... nyelv: - ő/az, egy AI vagy az AI - nyelvi nehézségek - mi az intelligencia? 1. Észlelés → Mi történik? 2. Reprezentáció → Hogyan ábrázoljam ezt magamban? 3. Memória → Mit tudok róla? 4. Tanulás → Mi újat tudok ebből megtanulni? 5. Következtetés → Mi következik belőle? 6. Oksági megértés → Miért történt, és mi történne, ha beavatkoznék? 7. Általánosítás → Működik-e ez más helyzetben is? 8. Tervezés → Hogyan jutok el A-ból B-be? 9. Döntés → Melyik lehetőséget válasszam? 10. Cselekvés → Hogyan valósítsam meg? 11. Tanulás a következményekből → Jó volt-e, amit csináltam? 12. Metakogníció → Hogyan gondolkodok? Mennyire bízhatok benne? 13. Szociális intelligencia → Mit tudnak, akarnak és éreznek mások? 14. Motiváció és célirányosság → Mit akarok elérni, és mennyire tartok ki mellette? 15. Adaptivitás → Mihez kezdjek, ha a világ nem úgy működik, ahogy vártam? stb... - AI vs AGI - emberi intelligencia: homogénebb, integráltabb - AI: óriási anomáliák (egyelőre?) * kockázatok - gémkapocs optimalizáló - intelligencia =/= értékrendszer, motivációk, józan paraszti ész - TFH: - épp csak érti az emberi létezést - emberfeletti matekban, programozásban, stratégiai tervezésben - tud működtetni gépeket - tudja majd fejleszteni magát - kitartóan követ egy célt - mi ez ha nem veszélyes? - prompt injection * civilizacio - civilizació feltétele: - idegenek közti kooperáció elősegítése - bűnözés várható hozama < kooperáció várható hozama - a nem-kooperálók sikeres kizárása a kooperáció gyümölcseiből ---> *de hogyan? és mi a bűn?* <--- * az ember-állat - antropológus szemszög: - normál állapot: - erdőben bóklászunk - kiscsoportos kooperáció - Dunbar szám (Dunbar's number) - föemlősok agymérete ~ csoport mérete (ember: kb 150) - *kooperácio* -> specializáció -> hatékony egyén -> gazdag társadalom - *intelligenciához is szükséges* (?) a kooperáció/munkamegosztás - mi az objektív valóság (igazság) - sok egyén tapasztalásának, és azok értelmezésének a közös része - nyelv, gyerekkor, brain bootstrap - ? LLM agents - kooperáció <-> versengés: *hamis ellentét* - korlátos erőforrások - a figyelem is véges - akikkel nem működünk együtt, azokkal igazából versengünk - de nem mindegy, hogy hogyan! - termelés vs. fosztogatás/nyerészkedés - evolució-biológiai szemszög: - ezek stratégiák - szabad energia kihasználása szaporodásra - *szabadság*: egy egyén bármit megtehet, ameddig a többieket ugyanezen jogukban nem korlátozza. - ennek az alulspecifikált "egyenletnek" a lehetséges megoldásai * etika - filozófia (etimológiája: ~/tudás szeretete/) - etika: morál-filozófia: mi a jó, a gonosz, a bűncselekmény - erőszak - kitörölhetetlenül része az emberi létezésnek - hogyan alkalmazzuk úgy, hogy az a jót szolgálja? - *morális ágens* (moral agent) - érző lény, öntudat (sentient being) - értse a tetteinek a következményeit - elmebaj: - nem gonosz - nem bűnöző - *erőszak*: olyan morális ágensek közötti interakció kezdeményezése, amiből a sértettnek kára származik, és ő ebbe, vagy ennek kockázatába nem egyezett bele. - a fenyegetés, csalás is erőszak - *informed consent*: az etika sarokkőve - lehetséges-e bizonyos tudásbeli különbség felett? - esettanulmány: frankhitelek - érdekesség: a nyelv mint a társadalom tükre TODO philosophy of liberty * jog - (ideális esetben) a jog az etikai elvek formális és részletes megfogalmazása - idegenek jövőbeli viselkedésének a becslése (lásd szabadság) - bíró(ság): az etikai elvek alkalmazása konkrét esetekre - a világ végtelen komplexitása <-> etikai alapelvek - bűn két szintje: - *morális bűn*: nem szép, illetlenség, kirekesztés, rosszallás - *bűncselekmény*: olyan mértékű károkozás egy egyénnek (az áldozatnak), amit szervezett erőszakkal is hajlandók vagyunk meggátolni, visszacsinálni, vagy megbosszulni (megemelni az árát) - mindkettő szükséges a civilizációhoz, de a másodikon áll vagy bukik a sikeressége - áldozat nélkül lehet-e valami bűncselekmény? (*victimless crime*) - ha megengedjük, akkor hol a határ, és ki dönti azt el? - sajnos a jog maga gyakran a *fosztogatás eszközévé degradálódik* - minden törvényes volt a Szovjetúnióban, és a náci Németországban is - többszázezer oldal, évtizedekbe telik csak elolvasni - /Three Felonies a Day - Harvey A. Silverglate/ - igazságos-e az, amikor nem ugyanazon jogai vannak minden polgárnak? - változt-e ezen: - a szokatlan kosztümök viselete? - a csoportos elkövetés? - ha a csoport a többség? - most vajon hol vagyunk ezen a skálán? “Amikor a törvény és az erkölcs ellentmondásba kerül egymással, akkor a polgárnak elkerülhetetlenül választania kell: vagy az erkölcsi érzékét adja fel, vagy a törvény iránti tiszteletét.” — Frédéric Bastiat (1801–1850), 'The Law' (1850) * AI - morális ágens-e egy mesterséges intelligencia - minek a megléte teszi azzá? - a mai M.I. az-e? - egy destruktív pszichopata beteg vagy bűnöző? - intelligencia emberség nélkül - copyright vs. LLM training - intellektuális "tulajdon" - lopás vs. másolás - mások kizárása a tudás használatából erőszakkal How To Be a Crook - *bűnözés típusai*: - kevés egyénnek nagy kár - sok egyénnek pici kár, távolról, ismeretlenül - nyelvi bölcsesség: "messziről jött ember" - sokkal hatékonyabb fosztogató stratégia 1) direkt erőszak (rablás) 2) betörés (nincs tanu) 3) csalás (távoli, arctalan) 4) folyamatos csalás (pl piramis játék) 5) (pénz-)hamisítás - kevesen értik - nagy hozam <-> elosztva sok kicsi és rejtett veszteség 6) pénznyomtatás; majd ebből kölcsönzés kamatra - áldozatok nem értik - morális nyomás, h visszafizessék a "kölcsönt" - kilátástalan (csapda) hitelek, hogy elvehessék a fedezetet 7) a 6-os pont, csak legalizálva - összeolvadás a politikával, karhatalommal, jogi rendszerrel - nagy téma, kevés idő - a kinyilatkoztatas tömörebb forma - de inkább csak kérdésfelvetés - *cél*: mindannyian keressük a válaszokat ezekre philosophy of liberty