Seal on Silicon Valleys toimub tehisintellekti üle suur arutelu ja kahjuks on panused üsna suured: kas me ehitame kogemata ülitarku A.I. mis pöördub meie poole ja tapab või orjastab meid kõiki?
See võib tunduda suvise katastroofifilmi stsenaariumina, kuid see on muretsenud päris suurte nimede eest, alates Elon Muskist kuni hilise lõpuni Stephen Hawking .
Oletame, et loote enesetäiendava A.I. maasikaid korjama, ' Musk on öelnud , selgitades tema hirme, ja see saab üha paremini maasikaid korjama ja korjab järjest rohkem ning see on isearenev, nii et kõik, mida ta tegelikult teha tahab, on maasikate korjamine. Nii et siis oleks kogu maailm maasikapõld. Maasikaväljad igavesti. ' Inimesed selle maasika-pakalüpsise moodi oleks A.I.-le lihtsalt kulutatav ärritaja.
Kuid kindlasti ei oleks inimesed nii rumalad, et kogemata A.I. ajendatud muutma kogu tsivilisatsioon üheks hiiglaslikuks marjafarmiks? Võib-olla mitte, aga nagu Janelle Shane , hiljuti märkis teadlane, kes koolitab närvivõrke - teatud tüüpi masinõppe algoritme tema ajaveeb A.I. Veidrused , on täiesti võimalik, et nad saaksid seda teha ekslikult.
Tegelikult poleks kaugeltki esimene kord, kui inimesed oleksid arvanud, et nad ehitavad roboteid ühe ülesande jaoks vaid selleks, et ümber pöörata ja leida, et robotid mängivad süsteemi viisil, mida nad kunagi pole ette näinud. Põnev postitus uurib akadeemilist kirjandust, et jagada mitmeid näiteid metsistunud robotitest. Nad on naljakad, nutikad ja kokku võttes enam kui veidi jubedad.
1. Kellel on jalgu vaja, kui saate kukkuda?
'Simuleeritud robot pidi arenema, et liikuda nii kiiresti kui võimalik. Kuid jalgade arenemise asemel pani ta end lihtsalt kõrgeks torniks ja kukkus siis ümber. Mõni neist robotitest õppis kukkuvast liigutusest isegi saltot muutma, lisades täiendava vahemaa, ”kirjutab Shane.
2. Robot, mis suudab-suudab.
'Teine simuleeritud robotite komplekt pidi arenema kujul, mis võiks hüpata. Kuid programmeerija oli algselt määranud hüppekõrguse kõrgeima ploki kõrguseks, nii et robotid arenesid jälle väga kõrgeks, 'selgitab Shane. Programmeerija üritas seda lahendada, määrates hüppekõrguse algselt kõige madalama ploki kõrguseks. Vastuseks arendas robot välja pika kõhna jala, mille abil saaks ta mingi robotipurgi abil õhku lüüa. '
3. Peida test ja sa ei saa sellest läbi kukkuda.
'Seal oli algoritm, mis pidi sortima numbrite loendi. Selle asemel õppis ta loendi kustutama, nii et seda ei olnud enam tehniliselt sorteerimata, ”räägib Shane.
4. Matemaatikavead ületavad reaktiivkütust.
'Ühes simulatsioonis said robotid teada, et jõudude arvutamiseks mõeldud matemaatika väikesed ümardusvead tähendasid seda, et nad said liikumisega pisikese lisaenergia. Nad õppisid kiiresti tõmblema, tekitades palju vaba energiat, mida nad saaksid rakendada, 'ütleb Shane. Hei, see on petmine!
5. Võitmatu (kui see on hävitav) tic-tac-toe strateegia.
Kui üks rühm programmeerijaid ehitas algoritme, mis saaksid lõpmatult suurel laual üksteise vastu tic-tac-toe mängida, 'märgib Shane. 'Üks programmeerija laseb oma algoritmi strateegia kujundamise asemel kujundada oma lähenemisviisi. Üllataval kombel hakkas algoritm ootamatult kõiki mänge võitma. Selgus, et algoritmi strateegia oli paigutada oma käik väga-väga kaugele, nii et kui vastase arvuti proovis uut oluliselt laiendatud lauda simuleerida, põhjustaks tohutu mängulaud selle mälu otsa ja krahhi, minetades selle. mäng. '
6. Ükski kasulik mängu tõrge ei jää kasutamata.
'Arvutimängu mängivad algoritmid on väga head avastama selliseid Matrixi tõrkeid, mida inimesed tavaliselt õpivad kiiruse jaoks kasutama. Vana Atari mängu Q * bert mängiv algoritm avastas seni tundmatu vea, kus ta sai ühe taseme lõpus sooritada väga konkreetseid liigutusi ja järgmisele tasemele liikumise asemel hakkasid kõik platvormid vilkuma kiiresti ja mängija hakkaks koguma tohutult punkte, 'ütleb Shane.
7. Vabandust, piloot.
See näide on jube skaalal ülimalt kõrge: „Seal oli algoritm, mis pidi välja selgitama, kuidas rakendada lennukikandjale maanduvale lennukile minimaalset jõudu. Selle asemel avastas ta, et kui rakendada „tohutut” jõudu, ajab see programmi mälu üle ja registreerub selle asemel väga „väikese” jõuna. Lendur sureks, aga kuule, täiuslik skoor. '
Kas oleme siis kõik hukule määratud?
Kõik need kokku pannes viitavad sellele, et inimesed on üsna kohmakad aimates, kuidas robotid lahendavad neile seatud probleemid või isegi kuidas nad probleemid määratlevad. Kas see tähendab, et Shane on sama mures selle pärast, et tahtmatult tapeti A.I. ülemused nagu Musk on? Mitte tegelikult, aga mitte sellepärast, et ta on kindel, et inimprogrammeerijatel on nende loodud robotitega tõesti hea käepide. Selle asemel tegeleb ta robotite laiskusega, et meid päästa.
'Programmeerijatena peame olema väga ettevaatlikud, et meie algoritmid lahendaksid probleeme, mida nende lahendamiseks mõtlesime, mitte ei kasuta otseteid. Kui antud probleemi lahendamiseks on mõni muu lihtsam viis, leiab masinõpe selle tõenäoliselt üles, 'täheldab ta. 'Meie õnneks on' tappa kõik inimesed 'tõesti väga raske. Kui ka 'küpseta uskumatult maitsev kook' lahendab probleemi ja on lihtsam kui 'tappa kõik inimesed', siis sobib masinõpe ka koogiga. '
