Felelős-e egy AI a tetteiért, és tud-e bűncselekményt elkövetni?

• önvezető autó, baleset
  • a mérnök?
  • a tulajdonos?
  • a gyártó?
  • az AI?
• és ha betörtek a kocsi "agyába"?
• humanoid ~= önvezető autó
• intro

– kérdések

• agents vs. chatbot
• LLM metafórák
  • agy a polcon
    • statikus
    • céltalan
      • ösztönös motivációk hiánya
  • nyelvi tétben üzemel
• agent
  • behelyezzük a gépagyat valami cselekvésre képes kasztniba
    • a digitalis térben:
      • coding agent
    • a fizikai térben:
      • humanoid robot
        • tudja magát tölteni, megszerelni
        • tud közlekedni

• morál-filozófia: mi a jó, a gonosz, a bűncselekmény
• morális ágens (moral agent)
  • érző lény, öntudat (sentient being)
  • értse a tetteinek a következményeit
    • elmebaj: nem gonosz, nem bűnöző
• erőszak: olyan morális ágensek közötti interakció, amiből a sértettnek kára származik, és ő ebbe, vagy ennek a kockázatába nem egyezett bele.
  • a fenyegetés, a csalás is erőszak
  • informed consent: az etika sarokkőve
    • jól informált beleegyezés (érti és beleegyezik)
    • lehetséges-e bizonyos tudásbeli különbség felett?
• bűncselekmény: erőszak kezdeményezése
• morális ágens-e egy AI?
  • minek a megléte teszi azzá?
  • a mai AI az-e?
• felelősség (szabadság) vs. bűnösség
  • szerződéses vállalások
  • Facebook Muse
  • agent-em megrendel valamit, de én nem veszem át
• miért érdekes?

• civilizació (fenntartásának a) feltétele:
  • idegenek közti kooperáció elősegítése
  • bűnözés várható hozama < kooperáció várható hozama
    • a nem-kooperálók sikeres kizárása a kooperáció gyümölcseiből

• evolúció
  • emberség - intelligencia együtt fejlődött
    • agy - szív: eszköz - irányzék
  • ösztönös motivációk
    • túlélés
    • szaporodás
  • most ledesztilláljuk az intelligenciát emberség nélkül?
  • szívtelen intelligens ember: pszichopátia
• egyszerre:
  • emberfeletti intelligencia
  • de meglepően primitív hibák, bizarr vakfoltok
    • társas helyzetek
    • tanulás/általánosítás kevés adatból
    • stb…

nyelv:

• ő/az, egy AI vagy az AI - nyelvi nehézségek

• mi az intelligencia?

  1. Észlelés → Mi történik?
  2. Reprezentáció → Hogyan ábrázoljam ezt magamban?
  3. Memória → Mit tudok róla?
  4. Tanulás → Mi újat tudok ebből megtanulni?
  5. Következtetés → Mi következik belőle?
  6. Oksági megértés → Miért történt, és mi történne, ha beavatkoznék?
  7. Általánosítás → Működik-e ez más helyzetben is?
  8. Tervezés → Hogyan jutok el A-ból B-be?
  9. Döntés → Melyik lehetőséget válasszam?
  10. Cselekvés → Hogyan valósítsam meg?
  11. Tanulás a következményekből → Jó volt-e, amit csináltam?
  12. Metakogníció → Hogyan gondolkodok? Mennyire bízhatok benne?
  13. Szociális intelligencia → Mit tudnak, akarnak és éreznek mások?
  14. Motiváció és célirányosság → Mit akarok elérni, és mennyire tartok ki mellette?
  15. Adaptivitás → Mihez kezdjek, ha a világ nem úgy működik, ahogy vártam?

  stb…

• AI vs AGI
  • emberi intelligencia: homogénebb, integráltabb
  • AI: óriási anomáliák (egyelőre?)

• gémkapocs optimalizáló

  • intelligencia / értékrendszer, motivációk, józan paraszti ész
  • TFH:
    • épp csak érti az emberi létezést
    • emberfeletti matekban, programozásban, stratégiai tervezésben
    • tud működtetni gépeket
    • tudja majd fejleszteni magát
    • kitartóan követ egy célt
    • mi ez ha nem veszélyes?
  • prompt injection

• civilizació feltétele:
  • idegenek közti kooperáció elősegítése
  • bűnözés várható hozama < kooperáció várható hozama
    • a nem-kooperálók sikeres kizárása a kooperáció gyümölcseiből

—> de hogyan? és mi a bűn? <—

• antropológus szemszög:
  • normál állapot:
    • erdőben bóklászunk
    • kiscsoportos kooperáció
      • Dunbar szám (Dunbar's number)
        • föemlősok agymérete ~ csoport mérete (ember: kb 150)
• kooperácio -> specializáció -> hatékony egyén -> gazdag társadalom
• intelligenciához is szükséges (?) a kooperáció/munkamegosztás
  • mi az objektív valóság (igazság)
    • sok egyén tapasztalásának, és azok értelmezésének a közös része
      • nyelv, gyerekkor, brain bootstrap
  • ? LLM agents
• kooperáció <-> versengés: hamis ellentét
  • korlátos erőforrások
    • a figyelem is véges
  • akikkel nem működünk együtt, azokkal igazából versengünk
    • de nem mindegy, hogy hogyan!
• termelés vs. fosztogatás/nyerészkedés
  • evolució-biológiai szemszög:
    • ezek stratégiák
    • szabad energia kihasználása szaporodásra
• szabadság: egy egyén bármit megtehet, ameddig a többieket ugyanezen jogukban nem korlátozza.
  • ennek az alulspecifikált "egyenletnek" a lehetséges megoldásai

• filozófia (etimológiája: ~/tudás szeretete/)

  • etika: morál-filozófia: mi a jó, a gonosz, a bűncselekmény
    • erőszak
      • kitörölhetetlenül része az emberi létezésnek
      • hogyan alkalmazzuk úgy, hogy az a jót szolgálja?
  • morális ágens (moral agent)
    • érző lény, öntudat (sentient being)
    • értse a tetteinek a következményeit
      • elmebaj:
        • nem gonosz
        • nem bűnöző
  • erőszak: olyan morális ágensek közötti interakció kezdeményezése, amiből a sértettnek kára származik, és ő ebbe, vagy ennek kockázatába nem egyezett bele.
    • a fenyegetés, csalás is erőszak
    • informed consent: az etika sarokkőve
      • lehetséges-e bizonyos tudásbeli különbség felett?
      • esettanulmány: frankhitelek
  • érdekesség: a nyelv mint a társadalom tükre

  TODO philosophy of liberty

• (ideális esetben) a jog az etikai elvek formális és részletes megfogalmazása
  • idegenek jövőbeli viselkedésének a becslése (lásd szabadság)
• bíró(ság): az etikai elvek alkalmazása konkrét esetekre
  • a világ végtelen komplexitása <-> etikai alapelvek
• bűn két szintje:
  • morális bűn: nem szép, illetlenség, kirekesztés, rosszallás
  • bűncselekmény: olyan mértékű károkozás egy egyénnek (az áldozatnak), amit szervezett erőszakkal is hajlandók vagyunk meggátolni, visszacsinálni, vagy megbosszulni (megemelni az árát)
  • mindkettő szükséges a civilizációhoz, de a másodikon áll vagy bukik a sikeressége
  • áldozat nélkül lehet-e valami bűncselekmény? (victimless crime)
    • ha megengedjük, akkor hol a határ, és ki dönti azt el?

• sajnos a jog maga gyakran a fosztogatás eszközévé degradálódik

  • minden törvényes volt a Szovjetúnióban, és a náci Németországban is
  • többszázezer oldal, évtizedekbe telik csak elolvasni
    • Three Felonies a Day - Harvey A. Silverglate
  • igazságos-e az, amikor nem ugyanazon jogai vannak minden polgárnak?
    • változt-e ezen:
      • a szokatlan kosztümök viselete?
      • a csoportos elkövetés?
      • ha a csoport a többség?
  • most vajon hol vagyunk ezen a skálán?

  “Amikor a törvény és az erkölcs ellentmondásba kerül egymással, akkor a polgárnak elkerülhetetlenül választania kell: vagy az erkölcsi érzékét adja fel, vagy a törvény iránti tiszteletét.” — Frédéric Bastiat (1801–1850), 'The Law' (1850)

• morális ágens-e egy mesterséges intelligencia

  • minek a megléte teszi azzá?
  • a mai M.I. az-e?
  • egy destruktív pszichopata beteg vagy bűnöző?
    • intelligencia emberség nélkül
  • copyright vs. LLM training
    • intellektuális "tulajdon"
      • lopás vs. másolás
      • mások kizárása a tudás használatából erőszakkal

How To Be a Crook

• bűnözés típusai:
  • kevés egyénnek nagy kár
  • sok egyénnek pici kár, távolról, ismeretlenül
    • nyelvi bölcsesség: "messziről jött ember"
    • sokkal hatékonyabb fosztogató stratégia

1. direkt erőszak (rablás)
2. betörés (nincs tanu)
3. csalás (távoli, arctalan)
4. folyamatos csalás (pl piramis játék)
5. (pénz-)hamisítás
   • kevesen értik
   • nagy hozam <-> elosztva sok kicsi és rejtett veszteség
6. pénznyomtatás; majd ebből kölcsönzés kamatra
   • áldozatok nem értik
     • morális nyomás, h visszafizessék a "kölcsönt"
   • kilátástalan (csapda) hitelek, hogy elvehessék a fedezetet
7. a 6-os pont, csak legalizálva
   • összeolvadás a politikával, karhatalommal, jogi rendszerrel

• nagy téma, kevés idő
  • a kinyilatkoztatas tömörebb forma
  • de inkább csak kérdésfelvetés
• cél: mindannyian keressük a válaszokat ezekre

philosophy of liberty