Lösungsideen

Lösungsideen · 11. August 2024

In diesem Blog geht es um die Risiken der KI, insbesondere das existenzielle Risiko einer unkontrollierbaren KI. Aber das bedeutet nicht, dass ich generell gegen KI wäre. Im Gegenteil sehe ich in KI große Chancen, seit ich mich in den Achtzigerjahren zum ersten Mal damit beschäftigt und darüber promoviert habe. Ich habe u.a. den ersten kommerziellen Chatbot in deutscher Sprache mitentwickelt und 1999 ein Start-up für Chatbot-Software gegründet, das u.a. mit dem "E-Conomy-Award" der...

Lösungsideen · 20. Mai 2024

Die klaren Worte des ehemaligen Leiters der KI-Sicherheit bei OpenAI, Jan Leike, haben eines sehr deutlich gemacht: Wir können uns nicht darauf verlassen, dass OpenAI und andere von selbst dafür sorgen, dass ihre Produkte sicher sind. Das ist nicht sonderlich überraschend, denn in anderen Industrien ist es ja ähnlich. So betreibt die Ölindustrie weiterhin massives Lobbying gegen Umweltschutzauflagen und die Automobilindustrie hat sich in den Achtzigerjahren mit Händen und Füßen gegen...

Lösungsideen · 10. Dezember 2023

Wir leben in einer Zeit, die vor allem von Misstrauen geprägt ist. Wir misstrauen den Politikern, unseren demokratischen Institutionen, den Medien, ob sozial oder traditionell, oft sogar unseren Nachbarn. Wenn jemand behauptet, er täte uneigennützig etwas Gutes, sind wir erst recht misstrauisch. Oft ist dieses Misstrauen leider berechtigt. Wir leben nämlich auch in einer Zeit, in der dreiste Lügen politischen Erfolg versprechen und man vor allem mit Angeberei und der Erniedrigung...

Lösungsideen · 08. Januar 2023

Vor einem Jahr begann meine Teilnahme am AI Safety Camp, einem regelmäßig stattfindenden internationalen Online-Projekt, bei dem Menschen, die sich für die Risiken starker künstlicher Intelligenz interessieren, ein halbes Jahr lang gemeinsam an verschiedenen Projekten arbeiteten. Das war eine großartige Erfahrung, bei der ich viele interessante Menschen kennenlernte und von ihnen enorm viel gelernt habe. Ich selbst war Teil eines Teams, das ein Rollenspiel-System entwickelte. Darin...

Lösungsideen · 05. August 2022

Heute habe ich einen Beitrag in englischer Sprache auf dem Forum LessWrong gepostet, das von vielen, die sich für KI-Sicherheit interessieren, zum Austausch genutzt wird. Hier kommt die deutsche Übersetzung: Das Alignment-Problem bleibt weiterhin äußerst schwierig und die Zeit bis zur Entwicklung starker KI scheint immer kürzer zu werden. Vor diesem Hintergrund müssen wir uns mit der Möglichkeit auseinandersetzen, dass wir innerhalb der nächsten 20 Jahre in der Lage sein werden, eine...

Lösungsideen · 26. Februar 2022

Aktuell nehme ich am AI Safety Camp teil, einer Online-Arbeitsgruppe, die sich in verschiedenen Unterthemen mit den Risiken "starker" künstlicher Intelligenz und deren Lösungsmöglichkeiten beschäftigt. Dabei habe ich Jan Hendrik Kirchner kennengelernt, der gerade seine Promotion über Computational Neuroscience abschließt und ein sehr lesenswertes englischsprachiges Blog betreibt. Gemeinsam haben wir dort sowie im Forum LessWrong gestern einen Artikel über eine Idee gepostet, die wir im...

Lösungsideen · 22. August 2021

Dieser Blogbeitrag von Heinrich hat mich darauf gebracht, mich mit der Frage zu beschäftigen, was eigentlich besser ist: Optimismus oder Pessimismus? Ich selbst bin von Natur aus Optimist. Ich sehe eher die Chancen als die Risiken und wenn etwas schiefgeht, sehe ich es eher als Ansporn, es beim nächsten Mal besser zu machen. Deshalb habe ich Anfang des Jahres einen Blogbeitrag geschrieben, in dem ich dazu ermutige, die „richtigen“ Fehler zu machen. Mein Optimismus ist es, der mir die...

Lösungsideen · 10. Dezember 2020

Menschen handeln von Natur aus oft irrational. Schuld daran sind „Abkürzungen“ in unserem Gehirn, mit denen wir Entscheidungen impulsiv auf Basis von Millionen Jahre alten Faustregeln treffen, statt gründlich darüber nachzudenken. Politiker und Marketingmanager wissen das und beeinflussen unser Verhalten, indem sie diese archaischen Impulse gezielt aktivieren. Dabei folgen sie aber selbst bloß ihren eigenen irrationalen Neigungen, insbesondere der unersättlichen Gier nach Macht und...

Lösungsideen · 02. Dezember 2020

In einem Kommentar zu meinem Beitrag über die Frage, wie viel Zeit uns noch bleibt, stellt Heinrich die berechtigte Frage, was genau wir denn jetzt tun sollen. Die naheliegende Antwort lautet: Durch geeignete technische Maßnahmen sicherstellen, dass Maschinen tun, was wir von ihnen wollen. Doch das ist ein äußerst verzwicktes Problem, nicht zuletzt deshalb, weil wir ja selbst nicht genau wissen, was wir eigentlich wollen, geschweige denn, was wir idealerweise wollen sollten. Die aktuelle...

Lösungsideen · 21. September 2020

In den bisherigen Beiträgen dieser Miniserie habe ich behandelt, wie die Evolution der KI zu Vielfalt und Konflikten führt, und darüber spekuliert, ob sich das demokratische Prinzip, das wir Menschen für die Lösung solcher Konflikte anwenden, auf KIs übertragen lässt. Heute möchte ich näher darauf eingehen, wie das gelingen könnte. Dafür wäre es meines Erachtens notwendig, künstliche Intelligenzen mit einem „Rechtsbewusstsein“ auszustatten, Instanzen zu schaffen, die die...