Ergebnis 1 bis 17 von 17

Thema: The First Law - erster Roboter der bewusst Schmerzen zufügt

  1. #1
    User Floppy Disc Themenstarter
    Avatar von Sen-Mithrarin
    Registriert seit
    26.10.2013
    Fachbeiträge
    755
    Genannt
    63 Post(s)
    Blutiges Experiment: Roboter verletzt "bewusst" und "böswillig" Menschen | heise online

    Auf Heise geht grad ein interessanter Artikel steil: Der erste Roboter der "bewusst" gegen das erste Robotergesetz verstößt. Ein dortiger Foren-Beitrag, dem ich mich anschließe, heißt: Er macht worauf er programmiert ist und kann mangels Bewusstsein nicht bewusst gegen dieses "Gesetz" verstoßen.
    Wie seht ihr das: Kann eine Maschine die darauf programmiert wurde "zu töten" und der das nötige "Bewusstsein" fehlt die drei Robotergesetze überhaupt zu verstehen überhaupt "bewusst" gegen diese verstoßen?
    Geändert von SlaterB (13.06.2016 um 23:09 Uhr)
    Biskuit ... das is' glaub ich fast so 'ne Suppe
    ein vergruseltes 2016 und so ...
    "Darf ich dir noch was anbieten?" - "Du meinst außer Steaks, Bier, Kippen und nen Lapdance?"

  2. #2
    User Kilobyte Avatar von Clayn
    Registriert seit
    26.08.2013
    Fachbeiträge
    136
    Genannt
    16 Post(s)
    Meine Meinung dazu ist im Grunde immer: Was interessiert einen Roboter diese 3 "Gesetze"? Ist ja nicht so, als das man einen Roboter baut und zack kennt er die und hält sich daran. Oder er ohne, dass er was dagegen tun kann, gestoppt wird, sollte er gegen eines verstoßen.
    Die Idee mir den 3 Gesetzen ist ja ganz nett aber muss auch praktisch und richtig umgesetzt werden ansonsten ist es nur theoretisches Wunschdenken.

    Wenn man mal davon absieht, dass es ja schon genug Roboter gab/gibt die Menschen verletzt und getötet haben, ohne dass das ihr Zweck war

  3. Es bedanken sich:
    Dow_Jones (16.06.2016)
  4. #3
    Global Moderator Viertel Gigabyte
    Registriert seit
    05.08.2008
    Fachbeiträge
    4.901
    Genannt
    307 Post(s)
    Den Aufmacher hatte ich auch gelesen. Beim letzten Satz des Aufmachers, "Es geht ihm um eine Ethikdebatte" habe ich dann aber ... Dinge gedacht...
    Grob: Aha, jemand der Germanistik und Ethik studiert hat, und jetzt mit Fischertechnik irgendeinen Pseudodreck zusammenschustert und da irgendein Science-Fiction-Schlagwort damit verknüpft um Relevanz vorzugaukeln und Aufmerksamkeit zu erregen...(ich denke manchmal sehr harsche Sachen )
    ... die mich veranlasst hatten, nicht weiterzulesen.

    Es gibt sicher viele Fragen, die sich im Moment sehr akut stellen. Abgesehen vom Reizthema "Drohnen" auch die (schon an anderer Stelle diskutierte) Frage, ob das selbstfahrende Auto nun den alten Mann oder die alte Frau überfahren soll, wenn es die Wahl hat. (Ladies first ). Und mit einer gewissen Verbitterung erwähne ich, dass ich mir der Ironie bewußt bin, dass das angestrebte Ziel, dessen Offensichtlichmachen was mich dazu veranlasst hatte, NICHT weiterzulesen, hiermit schon fast erfüllt ist. Aber leider kann ich jetzt nicht weiterschreiben, ich hab' noch was zu tun: Ich kacke jetzt in einen Eimer Kaviar und stelle ein YouTube-Video davon ins Netz. Es geht mir um eine Neiddebatte.
    Hm.
    Sorry.
    Bin heute nicht so konstruktiv, was das angeht.
    Deswegen nur die obligatorische xkcd-Referenz: https://xkcd.com/1613/

  5. #4
    User Viertel Megabyte Avatar von inv_zim
    Registriert seit
    31.07.2013
    Ort
    Rhein-Main Gebiet
    Fachbeiträge
    358
    Genannt
    31 Post(s)
    Spannendes Thema, wir haben Drohnen die selbständig Handys orten und mit Luft/Boden Raketen aufgrund dieser Daten ganze Wohnblöcke in Schutt und Asche legen, und die Debatte soll angeregt werden durch einen Roboter der Leute in den Finger piekst? An der innerkoreanischen Grenze gibt es Grenzschutzroboter von Samsung die auf Personen im Grenzbereich schießen sollen...

    Die Debatte läuft seit Jahren, wenn er das bisher nicht bemerkt hat, dann scheint er sich mit dem Thema bisher noch nicht sonderlich gut beschäftigt zu haben. Die "drei Gesetze" sind eine schöne Idee, aber wie für alle schönen Ideen gilt: Wenn die Voraussetzung ist, dass sich alle Menschen bewusst daran halten müssen, wird es nicht funktionieren.
    I am obsessed with the ancient science of "puzzle-ometry". I have discovered that within puzzles lies the secret of human intelligence, that which separates us from the common beast.

  6. #5
    Frequent User Megabyte
    Registriert seit
    01.08.2013
    Fachbeiträge
    1.721
    Genannt
    111 Post(s)
    Mir ging beim Lesen des Artikels nur durch den Kopf: was für ein Schwachsinn. Und zwar mit genau der Begründung, die @Clayn schon geschrieben hat. Ein Roboter macht genau das, was der Mensch ihm aufgetragen hat. Und die "drei Gesetze" kennt er nicht, solange sie in seiner Programmierung nicht vorhanden sind.
    Und irgendeine Form von Bewusstsein wurde im Artikel auch nicht beschrieben. Wenn dort wenigstens stünde, dass es eine KI ist, die sich wirklich zu etwas entscheiden könnte. Aber das hört sich so an, als wäre es eine Nadel, die per Zufallsgenerator zusticht. Herzlichen Glückwunsch, was für eine Leistung!

  7. #6
    Global Moderator Floppy Disc Avatar von Tomate_Salat
    Registriert seit
    30.07.2013
    Ort
    Durlach
    Fachbeiträge
    783
    Genannt
    150 Post(s)
    Blog-Einträge
    4
    Hab darüber auf Golem gelesen und klingt für mich nach "Sehet her, ich will Aufmerksamkeit". Das wir Roboter haben die töten ist längst bekannt. Wo liegt denn hier z.B. der Unterschied zu einer ferngesteuerten Drohne die "nur" auf Knopfdruck tötet. Letztendlich dürfte sie ja gar nicht schießen. Und streng genommen scheitert das ja auch daran, dass hier keine wirkliche KI vorhanden ist. Der Roboter wird eine Art Zufallsgenerator haben und dann Motoren ansteuern. Er wird also nicht wissen, dass er einen Menschen verletzt. Verstehe nicht, warum sowas überhaupt einen Artikel wert ist. Ich kann da nicht mal ansatzweise ein Konzept hinter dem Roboter erkennen.
    byte-welt.net - das Forum von Programmierern für Programmierer

    Naming Conventions
    The First Law - erster Roboter der bewusst Schmerzen zufügt

    JMapper | Instant Note (App)

  8. #7
    Global Moderator Viertel Gigabyte Avatar von SlaterB
    Registriert seit
    06.08.2008
    Fachbeiträge
    2.695
    Genannt
    275 Post(s)
    Zitat Zitat von Tomate_Salat Beitrag anzeigen
    Wo liegt denn hier z.B. der Unterschied zu einer ferngesteuerten Drohne die "nur" auf Knopfdruck tötet.
    ->
    Der Roboter entscheidet

    Anders als etwa bei "Killerdrohnen", bei denen letztlich noch ein Mensch den Knopf für den Raketenabschuss drückt, oder als bei Tretminen, die prinzipiell beim Betreten explodieren, entscheidet der mit der Nadel bestückte Roboter laut Reben bei jeder wahrgenommenen Person, ob er sie verletzen soll. Der Techniker und Programmierer könne selbst nicht vorhersagen, wie sich das Metallgebilde letztlich verhalte. Damit sei eine neue "Klasse von Robotern" in der Welt, die grundlos Menschen Schaden zufüge und so eine Menge nun nicht mehr vermeidbarer ethischer Fragen aufwerfe.


    dass es alles eine Trivialität ist, ist unbenommen

    schon der Satz "Er wird also nicht wissen, dass er einen Menschen verletzt." ist viele Stufen zu hoch,
    weil ein Roboter bzw. Computerprogramm nichts weiß, kein Konzept für Wissen wirklich hat,
    auch nicht die hochtrabensten Schachcomputer oder komplexe Waffen und Computerspiele genau zu diesem Thema,

    es fließt nur Strom in die digital geleiteten Kanäle, alles was nicht an sich (je nach Eingaben) vorbestimmt ist hängt vom Zufall ab

    solange keine echte KI da ist, ist das alles keine Thema,
    und wenn es eine echte KI mal geben sollte, dann wird sie sich wahrscheinlich nicht auf solche Gesetze einschränken lassen
    Menschen zeigen es immer wieder
    Geändert von SlaterB (15.06.2016 um 10:55 Uhr)
    Hansa wird Meister

  9. #8
    User Floppy Disc Themenstarter
    Avatar von Sen-Mithrarin
    Registriert seit
    26.10.2013
    Fachbeiträge
    755
    Genannt
    63 Post(s)
    Wow - ich bin echt verwundert dass hier doch so viele eine Meinung haben die mit meiner in die gleiche Richtung geht.
    Auch finde ich die Ansicht sehr interessant die Aufmerksamkeit um dieses Projekt in Frage zu stellen. Meine persönliche Meinung geht hier ganz direkt in die Richtung: Wenn ich der Maschine diese "drei Gesetze" nicht beibringe und ihr auch nicht die Möglichkeit gebe diese zu verstehen sondern diese Maschine bewusst dazu entwickle einem Menschen Schaden/Schmerzen zuzufügen darf ich nicht falsch behaupten dass diese Maschine gegen diese "Gesetze" verstoßen würde. Als möglicher Vergleich wäre hier vielleicht: Wenn ich schlicht nicht weis dass eine bestimmte Aktion gesetzlich verboten ist kann ich auch wenn ich die Aktion selbst bewusst d8rchführe nicht bewusst gegen ein mir unbekanntes Gesetz verstoßen.
    Biskuit ... das is' glaub ich fast so 'ne Suppe
    ein vergruseltes 2016 und so ...
    "Darf ich dir noch was anbieten?" - "Du meinst außer Steaks, Bier, Kippen und nen Lapdance?"

  10. #9
    User Halbes Megabyte Avatar von Crian
    Registriert seit
    02.08.2013
    Fachbeiträge
    542
    Genannt
    31 Post(s)
    Das sehe ich genauso. Da könnte man auch jammern, dass ein Programm Dinge nicht tut, die man ihm nicht einprogrammiert hat.

  11. #10
    Frequent User Kilobyte Avatar von Dow_Jones
    Registriert seit
    30.07.2013
    Fachbeiträge
    121
    Genannt
    19 Post(s)
    Kann mich da nur anschließen. Die Schlagworte aus der Überschrift - "bewusst" und "böswillig" - scheinen nach der Lektüre des Artikels totaler Blödsinn zu sein. Schaut ja nicht gerade so aus als hätte das Teil ein ausgeprägteres Bewusstsein als ein elektrischer Stuhl. Ist Heise jetzt das neue Sat1?!
    Naja. Schön das wir darüber gesprochen haben. Auch wenn's keine Ethikdebatte war.

    PS: Und von wegen "...den ersten Roboter geschaffen, der 'autonom und absichtlich' das erste Asimovsche Robotergesetz bricht." - kann sich noch jemand ausser mir an die Painstation erinnern?

  12. #11
    Global Moderator Viertel Gigabyte Avatar von SlaterB
    Registriert seit
    06.08.2008
    Fachbeiträge
    2.695
    Genannt
    275 Post(s)
    klingt ja mehr nach Killerdrohne als dem Programm/ Roboter aus dem Link:
    der 'Pain' ist vom Spielverlauf, von den Usern abhängig,
    (so wie auch jedes andere Spiel mit 'Loser'-Anzeige am Ende oder schlicht Grafik/ Musik psychische Schmerzen auslöst..),

    nicht Schmerz vom Programm vermeintlich selbstständig unvorhersehbar verteilt wie hier,
    das soll eben der entscheidende Unterschied sein..
    Hansa wird Meister

  13. #12
    Frequent User Kilobyte Avatar von Dow_Jones
    Registriert seit
    30.07.2013
    Fachbeiträge
    121
    Genannt
    19 Post(s)
    Zitat Zitat von SlaterB Beitrag anzeigen
    nicht Schmerz vom Programm vermeintlich selbstständig unvorhersehbar verteilt wie hier,
    das soll eben der entscheidende Unterschied sein..
    Na schön, dann ist dieser neue Roboter eben wie russisches Roulette für... keine Ahnung... niemanden. Big deal.
    Geändert von Dow_Jones (19.06.2016 um 22:05 Uhr)

  14. #13
    Premium User Halbes Megabyte Avatar von bygones
    Registriert seit
    17.07.2006
    Ort
    Dænemark
    Fachbeiträge
    571
    Genannt
    63 Post(s)
    Zitat Zitat von Crian Beitrag anzeigen
    Das sehe ich genauso. Da könnte man auch jammern, dass ein Programm Dinge nicht tut, die man ihm nicht einprogrammiert hat.
    skynet...
    Test Driven Development is like sex. If you dont like it, you probably aint doing it right

    You should never assume, because you make an ass of u and me

  15. #14
    Global Moderator Viertel Gigabyte Avatar von SlaterB
    Registriert seit
    06.08.2008
    Fachbeiträge
    2.695
    Genannt
    275 Post(s)
    zwar keine Schmerzen direkt verursacht, aber auch nicht allzu gesetzestreu:
    Russischer Roboter flüchtet aus Labor | heise online

    edit:
    Vermutlich hat die Firma die Geschichte als PR-Gag inszeniert, um Aufmerksamkeit zu erregen.
    oh, zu spät gelesen und mitgemacht
    Hansa wird Meister

  16. #15
    User Floppy Disc Themenstarter
    Avatar von Sen-Mithrarin
    Registriert seit
    26.10.2013
    Fachbeiträge
    755
    Genannt
    63 Post(s)
    Hehe, ja, bei der "Schlagzeile" musste ich gestern Abend auch schmunzeln. Am besten dann noch die Stelle: "... bis ihm etwa 50 Meter weiter der Strom ausging.". Ob als PR geplant oder nicht, aber die Zeile, dass der Promobot Botschaften "unters Volk" bringen soll, lässt auch etwas in Richtung Propaganda offen ... obwohl da wieder der Kommentar "vielleicht wollte er zum Klassenfeind überlaufen" das West<->Ost Klischee aufleben lässt.

    ~ oh man, zu viel Sonne am Strand lässt das Hirn auch ziemlich erweichen
    Biskuit ... das is' glaub ich fast so 'ne Suppe
    ein vergruseltes 2016 und so ...
    "Darf ich dir noch was anbieten?" - "Du meinst außer Steaks, Bier, Kippen und nen Lapdance?"

  17. #16
    Global Moderator Viertel Gigabyte Avatar von SlaterB
    Registriert seit
    06.08.2008
    Fachbeiträge
    2.695
    Genannt
    275 Post(s)
    Zitat Zitat von Marco13 Beitrag anzeigen
    Es gibt sicher viele Fragen, die sich im Moment sehr akut stellen. Abgesehen vom Reizthema "Drohnen" auch die (schon an anderer Stelle diskutierte) Frage, ob das selbstfahrende Auto nun den alten Mann oder die alte Frau überfahren soll, wenn es die Wahl hat. (Ladies first ).
    Oma wird nicht überfahren | Telepolis

    Tenor hauptsächlich: nur Vollbremsung, Spurwechsel für Abwägung von Leben in Deutschland illegal,
    (interessant wäre, ob das auch gilt wenn sicherer Crash in Gruppe von Menschen/ Kindergartenausflug einem Wechsel hin zu auch nur entfernt möglicher Menschengefahr, parkendes Auto mit unbekannter Besetzung etwa, entgegensteht..)

    zum Thema auf Seite 3:
    Aber ich will dem Hauptproblem nicht ausweichen. Die Frage wäre, ob wir nicht ethische Regeln in die Maschinen einprogrammieren sollten, z.B. Asimovs Gesetze oder meinetwegen die gesamte Ethik von Kant.

    Um eine Antwort geben zu können, muss man ein Missverständnis aus dem Weg räumen. Wenn wir über "autonome Roboter" reden, meinen wir damit nicht, dass sie wirklich alles von alleine entscheiden. Computer tun nur das, was ihnen einprogrammiert wurde. Computer und Roboter sind unsere Sklaven und sie werden es bleiben, wahrscheinlich für immer. Wenn ein Roboter eine Entscheidung trifft, wurde diese eigentlich vom Programmierer selbst von vorne herein und durch das Regelwerk festgelegt. Es ist sicherlich schwierig, alle Auswirkungen von Regeln zu durchschauen und zu "debuggen", aber das ist des Informatikers Job.


    [ edit: später: ]
    Mir ist bewusst, dass es möglich wäre durch Regeln eine Art "toy ethics" in eine Maschine einzubauen, die aber keine echte Ethik wäre, weil sie von keinem verantwortungsvollen Subjekt interpretiert werden kann. So, wie ein Buch mit der Verfassung kein moralisches Wesen ist, nur weil in seinem Inneren die Verfassung ruht, so kann keine Software ein moralisches Wesen sein, da Selbstbewusstsein und Bewusstsein für die Handlungen und deren Folgen eine Voraussetzung jeder Form von Ethik ist.
    Geändert von SlaterB (22.06.2016 um 13:45 Uhr)
    Hansa wird Meister

  18. #17
    User Floppy Disc Themenstarter
    Avatar von Sen-Mithrarin
    Registriert seit
    26.10.2013
    Fachbeiträge
    755
    Genannt
    63 Post(s)
    Finde dies bzgl. auch die Enterprise-TNG Folge "Wem gehört Data?" sehr interessant: Auch wenn es sich dabei so erstmal nur um Fiktion handelt, da wir aktuell weder eine so selbstbewusste KI noch die dazu nötigen rechtlichen Grundlagen (die ja in dieser Folge versucht werden zu ergründen) haben, so könnten sich diese Fragen doch sehr bald auch in der Realität stellen. Hat z.B. ein Robotor sowas wie "Rechte" oder ist er doch nur Eigentum?
    Auch dazu passend: Chappie
    Ich finde es spannend wie realitätsnah solche Fiktionen sind und welche davon sogar in nicht all zu ferner Zukunft Realität werden könnten.
    Biskuit ... das is' glaub ich fast so 'ne Suppe
    ein vergruseltes 2016 und so ...
    "Darf ich dir noch was anbieten?" - "Du meinst außer Steaks, Bier, Kippen und nen Lapdance?"

Aktive Benutzer

Aktive Benutzer

Aktive Benutzer in diesem Thema: 1 (Registrierte Benutzer: 0, Gäste: 1)

Ähnliche Themen

  1. (Erste Schritte) Eclipse findet Hauptklasse nicht - Fehlermeldung bei erster Übungsaufgabe
    Von marisl im Forum Java-Grundlagen
    Antworten: 3
    Letzter Beitrag: 30.12.2015, 01:47
  2. (Best Practice) Mein erster Blogeintrag
    Von nillehammer im Forum Allgemeine Themen
    Antworten: 7
    Letzter Beitrag: 08.11.2014, 08:20
  3. (Erste Schritte) Erster Tag eines gegebenen Monats
    Von mysterix im Forum Java-Grundlagen
    Antworten: 6
    Letzter Beitrag: 26.09.2013, 12:04
  4. "Erster Banking-Trojaner für Linux analysiert"
    Von L-ectron-X im Forum Sicherheit
    Antworten: 0
    Letzter Beitrag: 30.08.2013, 10:05
  5. "Ein erster Blick auf Eclipse 4"
    Von L-ectron-X im Forum Software
    Antworten: 1
    Letzter Beitrag: 01.08.2009, 11:08

Berechtigungen

  • Neue Themen erstellen: Nein
  • Themen beantworten: Nein
  • Anhänge hochladen: Nein
  • Beiträge bearbeiten: Nein
  •