OpenAI Befürwortet Kernenergie-ähnliche Regulierung zur Beherrschung der Superintelligenz

“OpenAI fordert in einem kürzlichen Blogbeitrag eine Regulierung der Superintelligenz, die vergleichbar ist mit der Regulierung der Kernenergie, und schlägt vor, eine Aufsichtsbehörde ähnlich der Internationalen Atomenergie-Organisation (IAEA) zu gründen. Sie betonen die Notwendigkeit einer KI-Regulierung, insbesondere im Bereich der Superintelligenz, und beschreiben die potenziellen Auswirkungen einer rasanten KI-Entwicklung und den Bedarf an angemessener Verwaltung.

OpenAIs Vorschlag zur Regulierung

Die initiale Aussage in dem Blogbeitrag stellt fest, dass Künstliche Intelligenzsysteme in den meisten Bereichen die Fähigkeiten von Experten übertreffen und genauso viele produktive Tätigkeiten ausführen werden wie große Unternehmen in unserer Zeit. Aus diesem Grund ist es wesentlich, das Risiko einer existenziellen Bedrohung zu begrenzen, auf die gleiche Art und Weise wie es bei der Kernenergie gemacht wurde.

Die Autoren des Artikels, Sam Altman, Greg Brockman und Ilya Sutskever, stellten fest, dass letztendlich eine Art Internationale Atomenergie-Organisation (IAEA) benötigt würde. Diese Behörde würde die Anstrengungen im Bereich der Superintelligenz regulieren und eine weltweite Zusammenarbeit und Koordination erfordern.

Darüber hinaus betont der Blogbeitrag, dass es von großer Bedeutung ist, “Unternehmen und Open-Source-Projekten zu ermöglichen, Modelle zu entwickeln, die eine erhebliche Kapazitätsschwelle überschreiten, ohne die Art von Regulierung, die normalerweise auferlegt wird”.”

OpenAI erwägt demokratische Entscheidungen

OpenAI hat eine Strategie entwickelt, um die Regulierung von KI durch kollektive Entscheidungsfindung zu fördern, die ähnlich dem Vorgehen von Wikipedia ist. Greg Brockman, der Vorsitzende des Unternehmens, kündigte an, dass OpenAI Methoden zur Erfassung von Eingaben verschiedener Parteien bei Entscheidungen evaluieren wird. Das Ziel besteht darin, einen demokratischen Entscheidungsprozess zu schaffen.

“Wir sitzen nicht einfach im Silicon Valley und denken, dass wir diese Regeln für alle schreiben können”, so Brockman. Obwohl zweifellos Herausforderungen bei der Einrichtung eines solchen Systems bestehen werden, teilte Brockman die gleiche Vision wie Sam Altman hinsichtlich der Bedeutung internationaler Zusammenarbeit bei der Regulierung von KI.

Regulierung von AI

Die Frage, wie KI reguliert werden soll, beschäftigt alle. Selbst diejenigen, die direkt in die Entwicklung von KI involviert sind, plädieren für Regulierung. Altman hat die Chance abgelehnt, der wichtigste KI-Regulator in den USA zu werden. Stattdessen drängte er während einer Anhörung im Kongress darauf, dass die USA die Verantwortung für die Regulierung übernehmen sollten.

Es scheint, dass die Vereinigten Staaten eine spezielle Behörde zur Überwachung von KI gründen werden. Andere Länder folgen diesem Beispiel, wobei insbesondere China sich für Verbote und Beschränkungen im Bereich KI stark macht. Ähnlich wie in der Vergangenheit auf dem Kryptomarkt könnte die KI-Industrie mit plötzlichen und strengen Vorschriften konfrontiert werden. Diese Vorschriften werden sich hauptsächlich auf Aspekte wie Privatsphäre, Verhinderung von Wahlbeeinflussung und Festlegung globaler Standards konzentrieren.