Facebook muss künstliche Intelligenzen deaktivieren, die Geheimsprache entwickelten

11. Sep
Facebook muss künstliche Intelligenzen deaktivieren, die Geheimsprache entwickelten

Seit einiger Zeit arbeitet Facebook mit künstlicher Intelligenz (KI). Die Wissenschaftler wollten dabei einem Chatbot beibringen, mit einem Gesprächspartner zu verhandeln. Dabei forschten sie vor allem mit zwei autonom operierenden Systemen, die sie Bob und Alice tauften. Es gelang schließlich, den beiden beizubringen, Bücher, Hüte oder Spielzeug zu auszutauschen.

Nach einigen Experimenten mussten die Wissenschaftler von Facebook jedoch feststellen, dass die beiden künstlichen Intelligenzen begannen, sich in einer Geheimsprache zu unterhalten. Dabei handelte es sich um eine Sprache, deren Bedeutung den Forschern nicht ersichtlich war und die aber für Bob und Alice Sinn machte. 

Und nicht nur das: Bob und Alice entwickelten auch bedenkliche Fähigkeiten, was ihr Verhandlungsgeschick anging. Bevor sie deaktiviert wurden, waren beide KI in der Lage, die eigenen Ziele zu verschleiern. So täuschten sie vor, an einem Objekt nicht interessiert zu sein, nur um es zu erhalten.  Das heißt, die KI erlernten letztendlich eine sehr menschliche Fähigkeit: Das Lügen. 

Auf Facebook teilen