Lagarde pleit voor AI-verdrag naar nucleair model na ECB-test met 109 banken

Europese Centrale Bank-president Christine Lagarde waarschuwde woensdag dat kunstmatige intelligentie gevaarlijke financiële crises kan veroorzaken en riep op tot wereldwijde governance naar het model van Koude Oorlog-nucleaire verdragen.

Belangrijkste punten:

Lagarde waarschuwt voor AI-dreiging

De uitspraken kwamen tijdens een toespraak in Venetië, de meest directe waarschuwing tot nu toe van een centrale-bankpresident over AI en financiële stabiliteit. Lagarde zei dat het diepere gevaar niet de technologie zelf is, maar de marktturbulentie die het door de economie kan ontketenen. Naarmate deze systemen krachtiger worden, voegde ze toe, dringen ze steeds verder door in de financiële wereld en in het dagelijkse economische leven.

Ze stelde crises, niet machines, voor als de kracht die meer van banen en spaargeld heeft afgenomen dan welke technologie dan ook daarvoor. De ECB heeft al 109 banken onderworpen aan een ernstig AI-gedreven cyberaanvalscenario, en de meeste zwakheden die daarbij aan het licht kwamen, zijn sindsdien aangepakt, aldus de centrale bank.

Lagarde zei dat ze brieven zal sturen naar directeuren van banken, met het verzoek om weerbaarheid te behandelen als serieuze investering in plaats van een formaliteit. Ze waarschuwde dat AI de financiële sector van binnenuit kan hervormen, nieuwe risicoconcentraties kan creëren en nieuwe mogelijkheden voor kwaadwillenden kan openen. Zelfs degelijke regelgeving, gaf ze toe, kan de technologie niet tegenhouden.

Lees ook: Traders Now Give Fable 5 74% Shot At Returning By Mid-July

Waarom de waarschuwing ertoe doet

De vergelijking met non-proliferatie is zeldzaam voor een zittende ECB-president, ontleend aan verdragen die standhielden omdat rivaliserende mogendheden gedeelde beperkingen accepteerden. "We kunnen kunstmatige intelligentie niet stoppen, zelfs niet met onze degelijke regelgeving," zei ze.

Haar oproep volgt op een scherpere waarschuwing van het hoofd van het Internationaal Monetair Fonds, Kristalina Georgieva, die vorige week in Brussel sprak. Ze waarschuwde dat geavanceerde modellen zoals Anthropic's Mythos tegen het financiële systeem kunnen worden ingezet, en noemde de technologie "slechts het begin."

Toezichthouders hebben erop gewezen dat dergelijke tools fouten kunnen vinden en misbruiken in grote besturingssystemen en browsers, zelfs wanneer ze door niet-experts worden gebruikt.

Het IMF heeft geconcludeerd dat AI aanvallers kan helpen verdedigingen sneller te doorbreken dan banken ze kunnen patchen, en het heeft gewezen op het ontbreken van een wereldwijde cyberbeveiligingsautoriteit om een reactie te coördineren. Lagarde maakte een vergelijkbaar argument en riep op tot een Europese kapitaalmarktunie en strenger toezicht op een technologie die grenzen negeert.

Maandenlang heeft de ECB eurozone-kredietverstrekkers aangespoord tot sterkere cyberverdedigingen, waarbij de Financial Stability Board soortgelijke waarborgen aanbeveelt. In mei waarschuwde het IMF dat extreme cyberverliezen de bankfinanciering onder druk kunnen zetten, solvabiliteitszorgen kunnen doen rijzen en de handel op de bredere markt kunnen verstoren. Venetië markeerde het moment waarop Lagarde die zorg van het cyberbureau naar de kern van het monetaire beleid tilde.

Lees verder: SpaceX Hits $2.94T Valuation After Passing Amazon And Microsoft