Ainult üheksa hiiglaslikku tehnoloogiaettevõtet USA-s ja Hiinas on kogu maailmas tehisintellekti edendamise taga. Oma uues raamatus Suur üheksa: kuidas tehnikatitaanid ja nende mõtlemismasinad suudaksid inimkonda moonutada (PublicAffairs, 5. märts) näeb Amy Webb ette kolme võimalikku tulevikku, ulatudes optimistlikust apokalüptiliseks, mis võivad tuleneda tegevustest, mida me võtame - või ei võta - A.I. arengu kontrollimiseks. ja kujundada selle ülemaailmset mõju. Selles katkendis esitab ta rea raskeid eetilisi küsimusi, mille A.I. süsteemid peaksid nende töö juhendamiseks kasutama.
Reeglid - algoritm -, mille järgi iga kultuur, ühiskond ja rahvas elab ja on kunagi elanud, on alati loodud vaid väheste inimeste poolt. Demokraatia, kommunism, sotsialism, religioon, veganlus, nativism, kolonialism - need on konstruktsioonid, mille oleme kogu ajaloo jooksul välja töötanud, et aidata oma otsuseid suunata. Isegi parimatel juhtudel ei ole need tulevikukindlad. Tehnoloogilised, sotsiaalsed ja majanduslikud jõud sekkuvad alati ja panevad meid kohanema.
Kümme käsku moodustavad algoritmi, mille eesmärk on luua parem ühiskond elusolevatele inimestele enam kui 5000 aastat tagasi. Üks käsk on puhata terve päev puhkepäeval nädalas ja mitte sel päeval üldse tööd teha. Tänapäeval ei tööta enamik inimesi nädalast nädalasse täpselt samadel päevadel või tundidel, seega oleks võimatu reeglit rikkumata jätta. Seetõttu on kümmet käsku juhtpõhimõttena järgivad inimesed tõlgendamisel paindlikud, arvestades pikemate tööpäevade, jalgpallitrennide ja e-posti tegelikkust. Kohanemine on tore - see töötab nii meie kui ka meie ühiskondade jaoks tõeliselt hästi, võimaldades meil rajal püsida. Juhiste põhikomplekti kokku leppimine võimaldab meil end optimeerida.
A.I.-le ei oleks kuidagi võimalik luua käskude komplekti. Me ei suutnud inimkonna õigeks optimeerimiseks kõiki reegleid välja kirjutada ja seda seetõttu, et kuigi mõtlemismasinad võivad olla kiired ja võimsad, puudub neil paindlikkus. Pole lihtsat viisi erandite simuleerimiseks või iga üksiku olukorra eelnevalt läbimõtlemiseks. Ükskõik, milliseid reegleid võidakse kirjutada, on tulevikus alati olukord, kus mõned inimesed võivad soovida reegleid erinevalt tõlgendada või neid täielikult ignoreerida või luua muudatusi ettenägematute asjaolude lahendamiseks.
Kas teades, et me ei saa mingeid rangete käskude komplekti kirjutada, kas järgida, kas peaksime selle asemel keskenduma inimestele, kes süsteeme üles ehitavad? Need inimesed - A. I. hõimud - peaksid endale esitama ebamugavaid küsimusi, alustades järgmisest:
- Mis on meie motivatsioon A.I. jaoks? Kas see on kooskõlas inimkonna parimate pikaajaliste huvidega?
- Millised on meie enda kallutused? Milliseid ideid, kogemusi ja väärtusi oleme jätnud oma hõimu kaasamata? Kelle oleme kahe silma vahele jätnud?
- Kas me oleme A.I. parem - või oleme teatud kvootide täitmiseks kaasanud oma meeskonda lihtsalt mitmekesisuse?
- Kuidas tagada, et meie käitumine on kaasav?
- Kuidas on A.I. tehnoloogilised, majanduslikud ja sotsiaalsed tagajärjed selle loomisel osalenud saavad aru?
- Millised põhiõigused peaksid meil olema, et uurida andmekogumeid, algoritme ja protsesse, mida meie nimel otsuste tegemisel kasutatakse?
- Kes jõuab määratleda inimelu väärtust? Mille vastu seda väärtust kaalutakse?
- Millal ja miks tunnevad A. I. hõimud, et nende kohustus on tegeleda A. I. sotsiaalsete tagajärgedega?
- Kas meie organisatsiooni juhtkond ja meie A.I. hõimud peegeldavad paljusid erinevaid inimesi?
- Millist rolli mängivad A.I. mängida A.I. sotsiaalsete tagajärgede käsitlemisel?
- Kas peaksime jätkama A.I. inimese mõtlemisele või on meil parem seda kategoriseerida millekski muuks?
- Kas on hea ehitada A.I. mis tunneb ära inimese emotsiooni ja reageerib sellele?
- Kas on hea teha A.I. süsteemid, mis suudavad jäljendada inimese emotsioone, eriti kui see õpib meilt reaalajas?
- Mis on vastuvõetav hetk, kus meil kõigil on A.I. areneb ilma inimesteta otse silmus?
- Millistel asjaoludel võiks A.I. simuleerida ja kogeda inimeste tavalisi emotsioone? Aga valu, kaotus ja üksindus? Kas me saame selle kannatuse põhjustada?
- Kas me arendame A.I. otsida endast sügavamat mõistmist? Kas saame kasutada A.I. aidata inimkonnal rohkem uuritud elu elada?
Tehisintellekti tuleviku eest on ülekaalukalt vastutavad üheksa suurt tehnoloogiaettevõtet - kuus Ameerika ja kolm Hiina. USA-s on need Google, Microsoft, Amazon, Facebook, IBM ja Apple ('G-MAFIA'). Hiinas on see PVT: Baidu, Alibaba ja Tencent.
G-MAFIA on hakanud juhtimispõhimõtete probleemiga tegelema erinevate uurimis- ja uurimisrühmade kaudu. Microsofti sees on meeskond nimega FATE - õigluse, vastutuse, läbipaistvuse ja eetika jaoks A.I. Cambridge Analytica skandaali järel käivitas Facebook eetikameeskonna, kes arendas tarkvara, et veenduda, et selle A.I. süsteemid vältisid kallutatust. (Nimelt ei jõudnud Facebook nii kaugele, et lõi A.I-le keskendunud eetikakomisjoni.) DeepMind lõi eetika- ja ühiskonnatiimi. IBM avaldab regulaarselt eetika ja A.I. Baidu skandaali järel - otsingumootor seadis esikohale sõjaväe juhitud haigla eksitavad meditsiinilised väited, kus ravi tagajärjel suri 21-aastane tudeng - Baidu tegevjuht Robin Li tunnistas, et töötajad olid teinud kompromissid Baidu kasumikasvu nimel ja lubas tulevikus keskenduda eetikale.
Suur Üheksa koostab eetikauuringuid ja valgeid raamatuid, kutsub kokku eksperte eetika arutamiseks ja korraldab eetikaküsimuste paneele - kuid see pingutus ei ole piisavalt läbi põimunud A.I.
Suure Üheksa A.I. süsteemid pääsevad üha enam meie reaalsete andmete juurde, et ehitada tooteid, millel oleks äriline väärtus. Arengutsüklid kiirenevad, et sammu pidada investorite ootustega. Oleme olnud valmis tahtmatult osalema tulevikus, mis luuakse kiirustades ja vastamata neile küsimustele. Nagu A.I. süsteemid arenevad edasi ja suurem osa igapäevaelust automatiseerub, seda vähem on meil tegelikult kontrolli meie üle tehtavate otsuste üle.
Amy Webb ilmub saali Inc asutajate maja Austinis 11. märtsil.
