Facebook beendet Experiment, nachdem KI eine eigene Sprache erfunden hat
Forscher schließen Projekt, nachdem Maschinen eine eigene Art der Kommunikation entwickelt haben, die für Menschen unverständlich ist
Intelligente Roboter übernehmen immer mehr Aufgaben
Getty Images
Bob: ich kann ich alles andere. . . . . . . . . . . . . .
Alice: Eier haben null zu mir zu mir zu mir zu mir zu mir zu mir
Bob: du ich alles andere. . . . . . . . . . . . . .
Alice: Bälle haben einen Ball zu mir zu mir zu mir zu mir zu mir zu mir
Bob: i i kann i i i alles andere . . . . . . . . . . . . . .
Alice: Bälle haben einen Ball zu mir zu mir zu mir zu mir zu mir zu mir
Obwohl es wie das Drehbuch einer wirklich schrecklichen Fernseh-Sitcom aussah, fand dieses Gespräch tatsächlich zwischen zwei Programmen für künstliche Intelligenz statt, die innerhalb von Facebook entwickelt wurden, um die Kunst des Verhandelns zu perfektionieren.
Zuerst sprachen die beiden in einfachem Englisch miteinander. Doch dann stellten die Forscher fest, dass sie bei der Programmierung der Maschinen einen Fehler gemacht hatten.
'Es gab keine Belohnung, sich an die englische Sprache zu halten', sagte Dhruv Batra, Gastwissenschaftler von Georgia Tech bei Facebook AI Research (Fair). FastCo .
Als diese beiden Agenten um das beste Angebot wetteiferten, „wurden keinem der Anreize geboten, so zu sprechen, wie es ein normaler Mensch tun würde“, sagt FastCo.
Also begannen sie sich zu trennen und arrangierten schließlich verständliche Wörter in scheinbar unsinnige Sätze, was dazu führte, dass das Experiment unterbrochen wurde.
Facebook musste eine KI abschalten, weil es eine eigene Sprache entwickelt hat pic.twitter.com/EsVEkWViTv
– NowThis (@nowthisnews) 31. Juli 2017
'Agenten (oder Programme) werden von verständlicher Sprache abdriften und Codewörter für sich selbst erfinden', erklärte Batra. „Wenn ich zum Beispiel fünfmal „die“ sage, interpretieren Sie das so, dass ich fünf Kopien dieses Artikels haben möchte. Das unterscheidet sich nicht so sehr von der Art und Weise, wie Gemeinschaften von Menschen Abkürzungen erstellen.“
Die Forscher betonten jedoch, dass das Experiment nicht aus Angst vor den möglicherweise negativen Auswirkungen der Kommunikation der Roboter abgebrochen wurde.
Fair-Forscher Mike Lewis sagte FastCo, sie hätten einfach entschieden, dass „unser Interesse darin bestand, Bots zu haben, die mit Menschen sprechen konnten“, nicht effizient miteinander, und entschieden sich daher dafür, von ihnen leserlich zu schreiben.
Dies ist nicht das erste Mal, dass Maschinen der künstlichen Intelligenz auftauchen, um ihre eigene Sprache zu erschaffen.
Im November letzten Jahres gab Google bekannt, dass die KI, die es für sein Übersetzungstool verwendet, eine eigene Sprache erstellt hat, in die und aus der Phrasen übersetzt werden, bevor Wörter in die Zielsprache übertragen werden.
Berichterstattung über die damalige Entwicklung, Tech-Crunch sagte: 'Diese 'Interlingua' scheint als eine tiefere Repräsentationsebene zu existieren, die Ähnlichkeiten zwischen einem Satz oder einem Wort sieht.'
„Es könnte etwas ausgeklügeltes oder etwas Einfaches sein“, fügte die Website hinzu, aber „die Tatsache, dass es überhaupt existiert – eine originelle Eigenkreation des Systems, um das Verständnis von Konzepten zu unterstützen, für die es nicht trainiert wurde, zu verstehen“ – ist, philosophisch gesprochen, ziemlich mächtiges Zeug“.
Diese jüngsten Entwicklungen haben zu ethischen Diskussionen über die potenziellen Probleme von Maschinen geführt, die ohne menschliches Eingreifen miteinander kommunizieren.
'Im Fall von Facebook konnten die Chatbots nur einen effizienteren Weg finden, um zu handeln', sagt Gizmodo .
Aber es gibt 'wahrscheinlich gute Gründe, intelligente Maschinen nicht ihre eigene Sprache entwickeln zu lassen, die Menschen nicht sinnvoll verstehen könnten', fügt die Website hinzu.
'Hoffentlich werden die Menschen auch schlau genug sein, um experimentelle Machine-Learning-Programme nicht in etwas sehr Gefährliches wie eine Armee von Laser tragenden Androiden oder einen Kernreaktor zu stecken.'
