Ethereum-Mitbegründer Vitalik Buterin: KI ist eine ernsthafte Bedrohung – was befürchtet er?

Vitalik Buterin, Mitbegründer von Ethereum, hat vor den potenziellen Gefahren gewarnt, die von einer hochentwickelten künstlichen Intelligenz (KI) ausgehen, die die menschliche Intelligenz übertrifft und die dominierende Spezies auf der Erde wird.

In einem kürzlich veröffentlichten Beitrag auf X (früher Twitter) betonte der Ethereum (ETH)-Mastermind, dass die Kontrolle und das Eingreifen des Menschen in die KI-Entwicklung den Ausgang dieses Szenarios bestimmen wird.

Buterin argumentierte, dass sich die KI grundlegend von früheren Erfindungen wie sozialen Medien, Flugzeugen und der Druckerpresse unterscheidet, da sie die Fähigkeit besitzt, eine neue Art von “Geist” zu schaffen, der den menschlichen Interessen schaden könnte.

Er äußerte die Befürchtung, dass eine superintelligente KI, wenn sie unkontrolliert bleibt, den Menschen als Bedrohung für ihr eigenes Überleben ansehen und möglicherweise zum Aussterben der Menschheit führen könnte.

AI risk 2: would a world with superintelligent AIs even be a world we would feel satisfied living in? On the instability of outcomes other than us being pets, and the failures of scifi to present realistic alternatives. pic.twitter.com/o9z8s6QAej

— vitalik.eth (@VitalikButerin) November 27, 2023

Er schlug die Integration von Gehirn-Computer-Schnittstellen (BCI) vor, um den Menschen mehr Kontrolle über KI-basierte Berechnungen und Kognition zu geben.

BCIs stellen einen direkten Kommunikationsweg zwischen dem Gehirn und externen Geräten her und ermöglichen es dem Menschen, aktiv an Entscheidungsprozessen teilzunehmen.

Indem sie die Kommunikationsschleife zwischen Mensch und Maschine auf Millisekunden reduzieren, würden BCIs sicherstellen, dass der Mensch ein gewisses Maß an sinnvoller Kontrolle über die Welt behält.

Buterin betonte, wie wichtig es ist, dass der Mensch die Verantwortung für die Planung auf hoher Ebene behält, um so das Risiko zu minimieren, dass die KI in einer Weise handelt, die nicht mit den menschlichen Werten übereinstimmt.

“Wir [können] den Anreiz verringern, die Verantwortung für die Planung auf hoher Ebene auf die KI selbst abzuwälzen, und so die Chance verringern, dass die KI von sich aus etwas tut, das nicht mit den Werten der Menschheit übereinstimmt.”

Buterin betont die Bedeutung der KI-Regulierung

Buterin betonte auch die Bedeutung des menschlichen Willens, wenn es darum geht, die KI zum Nutzen der Menschheit zu steuern. Er warnte davor, die Gewinnmaximierung in den Vordergrund zu stellen und betonte die Notwendigkeit einer bewussten Entscheidungsfindung, die mit den menschlichen Werten und Bestrebungen im Einklang steht.In seinen abschließenden Bemerkungen lobte Buterin den Einfallsreichtum und das kreative Potenzial der Menschheit. Er betonte, dass die Menschen im Laufe der Geschichte immer wieder Technologien entwickelt haben, um ihre Fähigkeiten zu verbessern, und äußerte die Hoffnung, dass menschliche Errungenschaften wie die Raumfahrt und das Geo-Engineering zur Erhaltung und Schönheit des Lebens auf der Erde und darüber hinaus beitragen werden.

We are the brightest star. There is a lot of good that can come from ongoing human progress, into the stars and beyond. But there are big forks in the road and we need to choose carefully. Accelerate, but accelerate carefully and well. pic.twitter.com/vxPlJWFVGq

— vitalik.eth (@VitalikButerin) November 27, 2023