Marktkollaps durch KI? Aufsicht ist besorgt
KI-Agenten bergen möglicherweise das Risiko eines Marktkollapses in Stressphasen, warnte jüngst eine hochrangige Managerin von einer der weltweit größten Zentralbanken.
Eckpunkte:
- Falls zu viele Marktteilnehmer auf KI setzen und diese gleichzeitig zum Verkauf rät, könnte dies Kursrückgänge verstärken
- Vor diesem Hintergrund sind Aufsichten wie die Bank of England besorgt
KI könnte Verkaufslawinen verstärken
Autonome KI-Agenten könnten nach Einschätzung der Bank of England zu einem “Marktkollaps” beitragen und deshalb strengere Regulierung erfordern. Vizegouverneurin Sarah Breeden warnte vor kurzem auf der EZB-Konferenz im portugiesischen Sintra, dass die Systeme in Stressphasen die Volatilität an den Finanzmärkten verstärken könnten, wenn sie auf ähnliche Eingaben gleich reagieren. Das ist einem Bloomberg-Bericht zu entnehmen.
Derzeit setzen Investoren KI nach ihren Angaben überwiegend für risikoärmere Aufgaben wie Recherchen ein. Die Nutzung autonom handelnder Agenten könne jedoch rasch zunehmen. Regulierungsbehörden müssten zudem genau beobachten, welche Folgen diese Agenten für Verbraucher und den Zahlungsverkehr haben.
Aufsicht muss mit der Zeit gehen
“Diese beiden Beispiele – agentischer Handel und agentisches Trading – zeigen, dass wir mit zunehmenden KI-Fähigkeiten immer wieder prüfen müssen, ob bestehende technologieunabhängige Regulierungsrahmen weiterhin ausreichen”, sagte Breeden in ihrer Rede in Sintra.
“Wenn KI-Agenten auf dieselben Eingaben oder Auslöser ähnlich reagieren, könnten sie in Stressphasen die Volatilität verstärken — insbesondere wenn sich ihre Ziele von den ursprünglichen Zielsetzungen oder den Zielen der öffentlichen Politik entfernen. Das wäre eine Ausprägung des Fehlanpassungsproblems, das bei einigen KI-Modellen auftreten kann”, warnte Breeden.
Agieren wie die Lemminge?
Die britische Zentralbank arbeitet gemeinsam mit der Bank für Internationalen Zahlungsausgleich und der Bundesbank daran, zu untersuchen, ob Agenten ein “Herdenverhalten” auslösen können und wie Behörden diesem Problem begegnen können. Dazu gehört auch die Frage, ob Schutzmechanismen wie “Handelsunterbrechungen oder Notausschalter eingeführt werden sollten, die den Handel marktweit begrenzen oder stoppen würden, wenn fehlerhafte KI-Modelle einen Marktzusammenbruch verursachen.”
Neue Technologie sorgt für Licht und Schatten
BoE-Gouverneur Andrew Bailey hat erklärt, die Technologie könne dazu beitragen, das schwache Wirtschaftswachstum Großbritanniens wieder zu beleben. Britische Behörden sorgen sich jedoch um die Auswirkungen auf den Bankensektor, insbesondere falls neue Modelle Schwachstellen für Cyberangriffe in der gesamten Wirtschaft offenlegen.
Breeden sagte, internationale Zusammenarbeit werde entscheidend sein. Neue KI-Fähigkeiten könnten sich über gemeinsame Technologieabhängigkeiten, global systemrelevante Finanzinstitute und die Marktinfrastruktur grenzüberschreitend verbreiten.
“Was ist, wenn die nächste Überraschung die neuesten Fähigkeiten in die Hände böswilliger Akteure legt oder sich Modelle so entwickeln, dass sie angesichts der Hinweise, dass sich einige im Test anders verhalten als unter realen Bedingungen, schwerer bewerten und kontrollieren lassen?”, sagte sie. “Wir sollten nicht auf eine Krise warten, um die Zusammenarbeit aufzubauen, die wir brauchen.” (aa)
