Ethereumin Vitalik Buterin: AI on uhka ihmiskunnalle
Miksi luottaa Cryptonewsiin
Mainosilmoitus
Uskomme täydelliseen läpinäkyvyyteen. Osa sisällöstämme sisältää affiliate-linkkejä, ja voimme ansaita komissiota näiden kumppanuuksien kautta.
Ethereumin toinen perustajajäsen Vitalik Buterin on varoittanut mahdollisista vaaroista, jotka liittyvät siihen, että huipputekninen älykkyys (AI) ylittää ihmisen älykkyyden ja tulee hallitsevaksi lajiksi maapallolla.
Äskettäin X:ssä (entisessä Twitterissä) julkaistussa viestissä Ethereumin (ETH) päämies korosti, että ihmisten kontrolli ja puuttuminen tekoälyn kehitykseen määräävät tämän skenaarion lopputuloksen.
Vitalik Buterin väitti, että tekoäly eroaa perustavanlaatuisesti aiemmista keksinnöistä, kuten sosiaalisesta mediasta, lentokoneista ja kirjapainosta, koska sillä on kyky luoda uudenlainen “mieli”, joka voi olla haitaksi ihmisen eduille.
Lue: Tekoäly sai Yhdysvalloissa Bideniltä presidentin asetuksen
“Uudenlainen mieli”
Hän ilmaisi huolensa siitä, että jos superälykäs tekoäly jätetään valvomatta. Buterinin mukaan se voi pitää ihmistä uhkana omalle selviytymiselleen ja mahdollisesti johtaa ihmiskunnan sukupuuttoon.
“Tekoäly on […] uudenlainen mieli, jonka älykkyys lisääntyy nopeasti, ja sillä on vakavat mahdollisuudet ohittaa ihmisen henkiset kyvyt ja tulla planeetan uudeksi huippulajiksi.”
Vaikka Buterin myönsi, että tällaisten äärimmäisten lopputulosten todennäköisyys on pieni, hän korosti, että ihmisten on ryhdyttävä varotoimiin.
“Tekoälyriski: Olisiko superälykkäiden tekoälyjen maailma edes sellainen maailma, jossa olisimme tyytyväisiä elämään? Muiden lopputulosten kuin meidän lemmikkieläimiksi joutumisen epävarmuudesta ja scifin epäonnistumisesta realististen vaihtoehtojen esittämisessä,” Buterin kirjoittaa.
AI risk 1: existential risk. My p(doom) is around 0.1.
You don't have to buy this story, but IMO it's worth worrying about. pic.twitter.com/1aWwhNx2Vl
— vitalik.eth (@VitalikButerin) November 27, 2023
Hän ehdotti aivo-tietokoneliitäntöjen (BCI) integrointia keinona antaa ihmisille parempi kontrolli tekoälyyn perustuvaan laskentaan ja kognitioon.
BCI:t luovat suoran viestintäyhteyden aivojen ja ulkoisten laitteiden välille, jolloin ihminen voi osallistua aktiivisesti päätöksentekoprosesseihin.
Kun ihmisten ja koneiden välinen viestintäsilmukka lyhenee millisekunneille, BCI:t varmistavat, että ihmisillä säilyy jonkinasteinen mielekäs vaikutusvalta maailmaan.
Lue: Tekoäly ei uhkaa työpaikkoja, toteaa Etlan tuore tutkimus
Vitalik Buterin on varovaisen optimistinen kehityksestä
Pitkässä kirjoituksessaan Buterin viittasi teknologiayrittäjä Marc Andreessenin viime kuussa julkaisemaan kirjoitukseen.
Andreessen julkaisi “tekno-optimistisen manifestinsa”, jossa hän kannatti uutta innostusta teknologiaa kohtaan sekä markkinoita ja kapitalismia keinona rakentaa teknologiaa. Hänen mukaansa ihmiskuntaa tulisi viedä kohti paljon valoisampaa tulevaisuutta.
Andreessenin manifesti torjuu yksiselitteisesti sen, mitä se kuvaa pysähtyneisyyden ideologiaksi, joka pelkää edistystä ja pitää ensisijaisena maailman säilyttämistä nykyisessä muodossaan.
Buterin korosti, että on tärkeää, että ihmiset säilyttävät vastuun korkean tason suunnittelusta, jolloin minimoidaan riski siitä, että tekoäly toimii tavalla, joka ei ole sopusoinnussa ihmisen arvojen kanssa.
“Omat tunteeni tekno-optimismia kohtaan ovat lämpimät, mutta vivahteikkaat. Uskon tulevaisuuteen, joka on nykyistä huomattavasti valoisampi radikaalisti muuttavan teknologian ansiosta. Uskon myös ihmisiin ja inhimillisyyteen. Hylkään ajattelutavan, jonka mukaan meidän pitäisi pyrkiä pitämään maailma suunnilleen samanlaisena kuin nykyään, mutta vähemmän ahneena ja enemmän julkista terveydenhuoltoa tarjoavana”, Buterin kirjoitti.
Kehityksen suunnalla on merkitystä
Hän kuitenkin kirjoitti olevansa sitä mieltä, että suuruuden lisäksi myös suunnalla on merkitystä.
“On olemassa tietyntyyppistä teknologiaa, joka tekee maailmasta paljon luotettavammin paremman kuin muunlainen teknologia. On olemassa tietyntyyppistä teknologiaa, jota kehittämällä voitaisiin lieventää muunlaisen teknologian kielteisiä vaikutuksia. Maailma on yli-indeksoitunut joissakin tekniikan kehityssuunnissa ja ali-indeksoitunut toisissa. Tarvitsemme ihmisten aktiivista tahtoa valita haluamamme suunnat, sillä kaava “voiton maksimointi” ei johda niihin automaattisesti”, Buterin jatkoi.
“Me [voimme] vähentää kannustinta siirtää korkean tason suunnitteluvastuu tekoälylle itselleen ja siten vähentää mahdollisuutta, että tekoäly tekee jotain, joka ei ole täysin sopusoinnussa ihmiskunnan arvojen kanssa.”
Vitalik Buterin korostaa tekoälyn sääntelyn merkitystä
Vitalik Buterin korosti myös ihmisen aikomuksen merkitystä tekoälyn ohjaamisessa ihmiskuntaa hyödyttäviin tuloksiin. Hän varoitti voittojen maksimoinnin asettamisesta etusijalle ja korosti, että tarvitaan tietoista päätöksentekoa, joka on linjassa ihmisten arvojen ja pyrkimysten kanssa.Loppupuheenvuorossaan Buterin ylisti ihmiskunnan nerokkuutta ja luovaa potentiaalia. Hän korosti, että ihmiset ovat jatkuvasti kehittäneet teknologiaa parantaakseen kykyjään kautta historian, ja toivoi, että ihmisen saavutukset, kuten avaruusmatkailu ja geotekniikka, edistävät elämän säilymistä ja kauneutta maapallolla ja sen ulkopuolella.
“Kahden miljardin vuoden kuluttua, jos maapallolla tai jossakin maailmankaikkeuden osassa on edelleen maallisen elämän kauneutta, avaruusmatkailun ja geoteknisen suunnittelun kaltaiset ihmisen keinot ovat saaneet sen aikaan.
Me olemme kirkkain tähti. Ihmisen jatkuvasta kehityksestä voi seurata paljon hyvää, tähtiin ja sen ulkopuolelle. Mutta tiellä on suuria haaroja, ja meidän on valittava huolellisesti. Kiihdyttäkää, mutta kiihdyttäkää varovasti ja hyvin.”
Human beings are deeply good. pic.twitter.com/AbOfd75IJ4
— vitalik.eth (@VitalikButerin) November 27, 2023
Yksityisyysprotokolla työn alla
Syksyn aikana Vitalik Buterin on jatkanut myös kryptovaluuttapuolella, työstäen yksityisyysprotokollaa yhteistyössä muiden alan osaajien kanssa.
Privacy Pools -niminen yksityisyysprotokolla on saanut nimekkäitä tekijöitä ympärilleen.
Tutkimus pyrkii käsittelemään huolia olemassa olevien yksityisyysalustojen, kuten Tornado Cashin, ympärillä ja kannattamaan rahoituksen yksityisyyden ja sääntelyn rinnakkaiseloa sen tiivistelmän mukaan. Buterinin lisäksi myös muita kryptoalan konkareita osallistui tutkimukseen, mukaan lukien ydinkehittäjä Ameen Soleimani, Chainalysis-tutkija Jacob Illum sekä akateemikot Matthias Nadler ja Fabian Schar.
Privacy Poolsia kuvaillaan “älysopimukseen perustuvana yksityisyyttä parantavana protokollana”. Privacy Pools käyttää nollatiedon todisteita arvioidakseen käyttäjien varojen legitimiteetin paljastamatta koko tapahtumahistoriaa. Pääasiallinen tavoite on luoda “erotteleva tasapaino”, joka suodattaa pois rikolliseen toimintaan liittyvät varat samalla tasapainoillen yksityisyyden ja sääntelyvaatimusten välillä.
Ehdotettu lähestymistapa mahdollistaa käyttäjien julkistaa nollatiedon todisteet, jotka osoittavat varojensa alkuperän paljastamatta koko tapahtumagraafia. Tämä tarjoaa mahdollisen ratkaisun varojen laillisuuden varmistamiseen samalla kun säilytetään tapahtumien yksityisyys.
“Esityksen ydinidea on mahdollistaa käyttäjille nollatiedon todisteen julkistaminen, osoittaen, että heidän varansa (eivät) peräisin tiedetyistä (ei-)laittomista lähteistä, paljastamatta julkisesti koko tapahtumagraafia”, tutkimusraportissa sanotaan. Kirjoittajat tunnustivat, että alustat kuten Tornado Cash ovat hyödyllisiä yksityisyyden työkaluja. He korostivat kuitenkin myös tällaisten alustojen alttiutta väärinkäytölle laittomien toimijoiden toimesta.
Tornado Cash kohtasi oikeudellisia haasteita viime vuonna, kun sitä syytettiin Pohjois-Koreaan yhdistetyn hakkeriryhmän Lazarusin liiketoimien helpottamisesta. Vastauksena Yhdysvaltain valtiovarainministeriön Office of Foreign Assets Control mustalistasi Tornado Cashin elokuussa 2022 sen väitetystä osallistumisesta laittomaan toimintaan.
Don't miss out
in numbers
