Institutional Money, Ausgabe 2 | 2025

Regulierungen wird allgemein als sinnvoll akzeptiert. Nur bei KI herrscht die seltsame Annahme, dass völlige Freiheit automatisch zu besseren Ergebnissen führt.Wenn Entwick- ler sich nicht einmal verp ichten können, grundlegende Menschenrechte einzuhalten, frage ich mich, ob deren Pro- dukte wirklich erstrebenswert sind. Ein Gütesiegel für men- schenrechtskonforme KI wäre ein klarer Wettbewerbsvorteil. Besitzt Europa in diesem Zusammenhang überhaupt genug Kraft, um KI wirklich voranzutreiben? Finnland, Spanien, Frankreich versuchen ja, eigene Initiativen zu starten …. Sandra Wachter: Ich glaube, Europa könnte deutlich mehr tun. Joanna Bryson hat vor einigen Jahren nachgewiesen, dass Europa bei Innovationen keineswegs hinter den USA zurückliegt. Das Problem liegt eher in der Vermarktung: Europäische Innovation erhält weniger Aufmerksamkeit. Wir sollten unsere Unternehmen und Forscher stärker in den Fokus rücken. Außerdem fehlt es an Investitionen – gerade im Wissenschaftsbereich wird oft gespart, obwohl Investitionen dringend notwendig sind, um unabhängige, allgemein nutzbare Forschung zu fördern.Nur durch kluge Investitionen, sowohl staatliche wie auch rmeninterne, wird Europa langfristig in der KI-Entwicklung mithalten können. Welches Land in Europa sehen Sie aktuell vorn bei der KI-For- schung, oder müsste man das eher gesamteuropäisch betrachten? Sandra Wachter: Ich würde es wirklich gern gesamteuropä- isch betrachten. Ich glaube, es gibt „strength in numbers“. Ich wünsche mir daher deutlich mehr Kooperation zwi- schen den Mitgliedsstaaten, denn wir sind am stärksten, wenn wir zusammenhalten. Gibt es diese Kooperationen bereits, oder kocht jeder sein eigenes Süppchen? Sandra Wachter: Momentan kocht jeder noch sein eigenes Süppchen. Aber ich ho e, dass die gegenwärtig schwierige politische Lage dazu führt, dass man erkennt, gemeinsam stärker zu sein. Es könnte jedoch auch passieren, dass das Misstrauen innerhalb Europas zunimmt, insbesondere wenn externe Kräfte versuchen, Europa zu spalten. Vor diesem Hintergrund noch einmal die Frage: Welches Einzelland ist Ihrer Meinung nach führend? Sandra Wachter: Schwer zu sagen, aber Deutschland ist sicherlich sehr gut aufgestellt. Frankreich ebenfalls. Und außerhalb der EU natürlich Großbritannien. Lassen Sie uns nochmal konkret zur Finanzbranche kommen: Ist KI für den Finanzsektor nützlich oder nicht? Sandra Wachter: Das hängt stark von der spezi schen Anwendung ab. KI ist hervorragend geeignet für einfache Aufgaben, die mit niedrigem Risiko verbunden sind, bei- spielsweise für die schnelle Übersicht, um zu erkennen, was in einem Fonds enthalten ist, oder um Texte zusammenzu- fassen. Das entspricht auch menschlichem Verhalten, wenn man etwa Bücher über iegt, um grob zu erfassen, worum es geht. Aber die entscheidenden Details, die echten Feinhei- ten und Intuitionen, muss man sich selbst erarbeiten. Um einen echten Wettbewerbsvorteil zu erzielen, braucht man eben Informationen oder Ideen, die nicht jeder hat. Eine KI, die allen dieselben Antworten liefert, bietet keinen Vorteil. Denken Sie, dass KI aktuell ein gewisses Plateau erreicht hat, viel- leicht sogar bedingt durch die schlechter werdende Datenqualität? Sandra Wachter: Manche Experten glauben, wir hätten aktuell ein Plateau erreicht. Allerdings ist das schwer zu beurteilen. Beispielsweise kam das DeepSeek-Modell quasi aus dem Nichts und hat bestehende Annahmen widerlegt, etwa zur Ressourcenintensität. Vorher haben CEOs großer Tech-Firmen behauptet, man könne Klimaziele wegen der hohen Energieanforderungen von KI vergessen – und plötz- lich zeigt ein neues Modell, dass es auch mit viel weniger Ressourcen geht. Es könnte also durchaus noch Disruptio- nen geben. Genau das macht es auch spannend. Vielleicht haben wir einen Gipfel erreicht, vielleicht steht aber auch die nächste technologische Revolution kurz bevor – aus einer Ecke, die wir jetzt noch gar nicht sehen. Stichwort DeepSeek: Durch dessen neuartigen Ansatz scheint der Vorsprung von OpenAI durch aufwendiges Human Reinforced Learning – also spezifisches Training durch Menschen – plötzlich deutlich geringer geworden zu sein. Rentiert sich der enorme Aufwand beim Human Reinforced Learning überhaupt noch? Sandra Wachter: Das ist tatsächlich eine berechtigte Frage. Die enormen Kosten und die aufwendige Forschung stehen in einem immer schlechteren Verhältnis zum marginalen Vorsprung, den diese Methoden erzielen. Schließlich muss ein Produkt nicht perfekt sein, sondern nur gut genug. Während des IM Spezial Workshops haben Sie erwähnt, dass KI- Modelle inzwischen besser darin geworden sind, ihre Fehler zu verschleiern, statt tatsächlich bessere Antworten zu liefern. Wie schätzen Sie die qualitative Entwicklung der Modelle vor diesem Hintergrund ein? 74 N o . 2/2025 | institutional-money.com THEORIE & PRAXIS | Sandra Wachter | Universität Oxford FOTO: © NIKOLA HAUBNER » KI ist hervorragend geeignet für einfache Aufgaben, die mit niedrigem Risiko verbunden sind. Beispielsweise für die schnelle Übersicht, um zu erkennen, was in einem Fonds enthalten ist, oder um Texte zusammenzufassen. « Prof. Sandra Wachter, Oxford Aktuelles Publika- tionsbeispiel der KI-Forscherin: „Do large language models have a legal duty to tell the truth?“ im-online.com/ SWA225