Przewodniczący amerykańskiej Komisji Papierów Wartościowych i Giełd (SEC), Gary Gensler, ostrzega przed potencjalnymi katastrofami finansowymi spowodowanymi szybkim wykorzystaniem sztucznej inteligencji (AI) w sektorze bankowym. Uważa on, że koncentracja władzy w kilku dominujących platformach AI może doprowadzić do katastrofy już za 10 lat. 

• Gary Gensler wzywa USA do uregulowania zagrożeń związanych ze sztuczną inteligencją dla stabilności finansowej kraju.

• Według Genslera prawie nieuniknione jest to, że AI spowoduje katastrofę finansową w ciągu najbliższych lat.
• Chociaż postępy są powolne, amerykańskie organy regulacyjne badają obecnie nowe ramy nadzoru i koordynację między agencjami w celu monitorowania systemowych obaw związanych ze sztuczną inteligencją.
• Silna infrastruktura chmurowa jest dostępna od firm takich jak Google, Amazon i Microsoft, które umożliwiają im hostowanie zaawansowanych modeli sztucznej inteligencji i oferowanie ich instytucjom finansowym jako usługi.

Najwyższe władze ostrzegają, że szybkie wykorzystanie sztucznej inteligencji w sektorze bankowym może stanowić poważne zagrożenie dla stabilności finansowej i wywołać kolejną katastrofę w ciągu najbliższych dziesięciu lat.

Przewodniczący amerykańskiej Komisji Papierów Wartościowych i Giełd (SEC), Gary Gensler, stwierdził w niedawnym wywiadzie dla Financial Times, że istnieje poważne ryzyko systemowe związane z koncentracją władzy w niewielkiej liczbie dominujących platform AI, co może doprowadzić do katastrofy już pod koniec lat 2020, a wręcz jest to niemal nieuniknione.

Organy regulacyjne obawiają się możliwości wystąpienia mentalności stadnej, jeśli wiele firm będzie korzystać z tych samych podstawowych modeli sztucznej inteligencji i agregatorów danych. Na przykład system sztucznej inteligencji jednej z firm technologicznych może być wykorzystywany przez wszystkich kredytodawców hipotecznych do określania zdolności kredytowej kredytobiorcy. W przypadku słabości tego modelu, rynek mieszkaniowy może być zagrożony, a liczba przypadków niewypłacalności może dramatycznie wzrosnąć.

Ekonomia sieci w AI, według Genslera, czyni ten scenariusz prawdopodobnym. Prognozy systemu sztucznej inteligencji stają się tym lepsze, im więcej danych jest wykorzystywanych przez firmy. W rezultacie branża zostaje zdominowana przez jeden lub dwa modele AI w sytuacji, w której zwycięzca bierze wszystko.

Wyzwanie kontroli zagrożeń związanych ze sztuczną inteligencją

Ponieważ duża część istniejących regulacji finansowych koncentruje się na konkretnych firmach i branżach, trudno jest monitorować zagrożenia związane ze sztuczną inteligencją, które obejmują kilka rynków.

Jest to trudne zadanie, ponieważ większość regulacji dotyczy konkretnych instytucji, banków, funduszy rynku pieniężnego i brokerów, co sprawia, że stabilność finansowa jest ciężkim zagadnieniem do rozwiązania. Co więcej, jest to kwestia horyzontalna, w której wiele instytucji może zależeć od tego samego agregatora danych podstawowych lub modelu bazowego.

Aby zapobiec konfliktom interesów w analizie predykcyjnej, SEC zasugerowała, aby brokerzy-dealerzy i doradcy inwestycyjni deklarowali wszelkie takie relacje. Jednak według Genslera nadal nie rozwiązuje to horyzontalnej kwestii współzależnej sztucznej inteligencji.

Chociaż postęp jest powolny, amerykańskie organy regulacyjne badają obecnie nowe ramy nadzoru i koordynację między agencjami w celu monitorowania systemowych obaw związanych ze sztuczną inteligencją. Gensler poruszył tę kwestię z globalnymi organizacjami, takimi jak Rada Stabilności Finansowej.

Ryzyko związane z koncentracją sztucznej inteligencji jako usług

Kolejną kwestią jest koncentracja podaży AI wśród firm Big Tech. Silna infrastruktura chmurowa jest dostępna od firm takich jak Google, Amazon i Microsoft, które umożliwiają im hostowanie zaawansowanych modeli sztucznej inteligencji i oferowanie ich instytucjom finansowym jako usługi.

Ta koncentracja prowadzi do odizolowanych miejsc awarii. Liczne banki, ubezpieczyciele i firmy handlowe, które polegają na modelach sztucznej inteligencji, mogą ucierpieć, jeśli jeden z modeli na serwerach Amazon ulegnie awarii.

Liderem w zarządzaniu sztuczną inteligencją jest Europa

Europa podjęła bardziej zdecydowane kroki, podczas gdy amerykańscy urzędnicy wciąż badają zagrożenia związane ze sztuczną inteligencją. UE planuje uchwalić w tym roku przepisy, które nałożą surowe ograniczenia na ochronę danych, przejrzystość i eliminację stronniczości w systemach sztucznej inteligencji.

Przewodniczący SEC przedstawił ambitną agendę regulacyjną, która obejmuje przepisy dotyczące private equity (kapitał prywatny), monitorowania kryptowalut i ujawniania informacji o zmianach klimatycznych, z których wszystkie są przedmiotem wyzwań sądowych. W nadchodzących latach jednym z najtrudniejszych zadań dla władz USA będzie zapewnienie stabilności sztucznej inteligencji.