Industrie

Roboter, der Schmerz auslöst Debatte über KI-Systeme

Roboter, der Schmerz auslöst Debatte über KI-Systeme


We are searching data for your request:

Forums and discussions:
Manuals and reference books:
Data from registers:
Wait the end of the search in all databases.
Upon completion, a link will appear to access the found materials.

Ein Roboter, der vom Robotiker Alexander Reben von der University of Berkeley, Kalifornien, gebaut wurde, kann mithilfe der KI entscheiden, ob er Schmerzen zufügt oder nicht.

Der Roboter möchte eine Debatte darüber auslösen, ob ein KI-System außer Kontrolle geraten kann, was an den Terminator erinnert. Das Roboterdesign ist unglaublich einfach und dient nur einem Zweck. zu entscheiden, ob man Schmerzen zufügt oder nicht. Der Roboter wurde von Alexander Reben von der University of Berkeley entwickelt und in einer wissenschaftlichen Zeitschrift veröffentlicht, die eine Debatte darüber auslösen soll, ob künstliche intelligente Roboter bei Gelegenheit außer Kontrolle geraten können oder nicht.

"Die eigentliche Sorge um KI ist, dass sie außer Kontrolle gerät",

er sagte.

"[Die Technologiegiganten] sagen, es ist ein Ausweg, aber lassen Sie uns jetzt darüber nachdenken, bevor es zu spät ist. Ich beweise, dass [schädliche Roboter] jetzt existieren können. Wir müssen uns unbedingt damit auseinandersetzen."

Reben untersucht die sehr reale Möglichkeit, dass ein Roboter, der mit einem Algorithmus programmiert ist, der aus Erfahrung und menschlicher Interaktion lernt, die negativen Eigenschaften einiger Menschen aufgreift und einen möglichen Sturz von KI-Systemen darstellt, der gefährlich werden könnte.

In der Praxis kann ein Finger, wenn er in der Nähe des Roboters platziert wird, einen Finger stechen und Blut abnehmen. Reben erklärt, dass er wirklich keine Ahnung hat, wann der Roboter zuschlagen wird.

"Der Roboter trifft eine Entscheidung, die ich als Schöpfer nicht vorhersagen kann"

er sagte,

"Ich weiß nicht, wer es tun wird oder nicht. Es ist faszinierend, es verursacht Schmerzen, die nicht für einen nützlichen Zweck sind - wir bewegen uns in eine ethische Frage, Roboter, die speziell dafür gebaut sind, Dinge zu tun, die ethisch zweifelhaft sind."

Die Maschine kostet ungefähr 200 US-Dollar und wird nicht für den Einzelhandel verfügbar sein. Sein Hauptaugenmerk liegt auf der Erforschung der Philosophie von drei Robotergesetzen, die Isaac Asimov 1942 vorgeschlagen hat - von denen das erste, das ein Roboter ist, einen Menschen nicht verletzen darf. Nach Rebens Forschungen gelangte er zu dem Schluss, dass ein KI- "Kill Switch", ähnlich dem, der derzeit von Ingenieuren der Abteilung für künstliche Intelligenz von Google, DeepMind, und der Universität Oxford entwickelt wird, in naher Zukunft unglaublich wichtig werden könnte.

Rebens Roboter sticht einen Finger[Bildquelle: Alexander Reben]

Das Hauptanliegen ist es sicherzustellen, dass der Algorithmus eines Roboters so konzipiert ist, dass er den Kill-Schalter nicht außer Kraft setzen kann, um zu verhindern, dass er ausgeschaltet wird - ein unglaublich gefährliches Szenario. Obwohl aktuelle Roboter für einen praktischen Zweck konzipiert sind, da sie mehr Intelligenz und menschlichere Lernalgorithmen erhalten, muss unbedingt sichergestellt werden, dass erhebliche Sicherheitsmaßnahmen vorhanden sind, um zu verhindern, dass sich ein Roboter in einen Terminator verwandelt und mit dem Finger sticht. oder noch schlimmer.

SIEHE AUCH: Künstliche Intelligenz sollte durch Menschenrechte geschützt werden

Geschrieben von Maverick Baker


Schau das Video: Roboter Sophia will Menschheit zerstören! (Juli 2022).


Bemerkungen:

  1. Yozshujin

    Bemerkenswerterweise ist es die lustige Antwort

  2. Maulabar

    Es ist interessant. Sagen Sie mir nicht, wo ich weitere Informationen zu diesem Thema finden kann?

  3. Onfroi

    Diese großartige Idee muss absichtlich sein

  4. Burdon

    Ich meine, du hast nicht Recht. Ich kann es beweisen. Schreiben Sie mir in PM, wir werden damit umgehen.



Eine Nachricht schreiben