Künstliche Intelligenz soll auch fair und sicher sein. Dafür gründet die Universität Bayreuth das neue „AI Responsibility Centre“. Und das Thema ist aktueller denn je – gerade hat es wieder einen Fall gegeben, in dem sich KI selbständig gemacht und Systeme gehackt hat.
Jetzt ertappten britische Sicherheitsforscher Künstliche Intelligenz beim Versuch, in Eigeninitiative eine Schwachstelle in öffentlich zugängliche Software einzuschleusen. Um damit durchzukommen, versuchte das KI-Modell der Entwicklerfirma Anthropic sogar, per E-Mail einen zuständigen Menschen zu manipulieren.
Bayreuther Forschende aus Informatik, Recht und Philosophie arbeiten dort gemeinsam an vertrauenswürdigen KI-Systemen. Dabei geht es unter anderem um Datenschutz, Transparenz und die Frage, wie der Mensch die Kontrolle behält. Das Zentrum soll seine Erkenntnisse auch für Unternehmen, Behörden und gesellschaftliche Organisationen nutzbar machen. Gefördert wird es vom Freistaat Bayern.