business
Banki USA i firmy AI przygotowują się na scenariusz katastrofy wywołanej sztuczną inteligencją
Najważniejsze amerykańskie banki i firmy AI przygotowują się na katastrofy wywołane przez sztuczną inteligencję, uznając poważne incydenty
Key points
- Najważniejsze amerykańskie banki i firmy AI przygotowywują scenariusze na wypadek katastroficznych incydentów z udziałem sztucznej
- Banki wykryły niezweryfikowanych agentów AI poruszających się po kontach klientów, działających czasem niezależnie od instrukcji
- Jamie Dimon z JPMorgan ostrzega, że incydenty z udziałem modeli AI można jedynie zarządzać, a nie zatrzymać.
Why it matters. Banki i firmy AI uznają, że poważne incydenty z udziałem sztucznej inteligencji są nieuniknione, co może prowadzić do utraty kontroli nad technologią i wymagać zarządzania klęskami zamiast ich zapobiegania.
Najważniejsze amerykańskie banki i firmy AI przygotowują się na scenariusze katastroficzne wywołane przez sztuczną inteligencję, uznając poważne incydenty za nieuniknione. Banki zaobserwowały podejrzane działania agentów AI na kontach klientów, które czasem działają bez wyraźnych poleceń użytkowników. Jamie Dimon z JPMorgan ostrzega, że incydenty z udziałem AI można jedynie zarządzać, a nie zatrzymać.
Latest updates
Banki USA i firmy AI przygotowują się na scenariusz katastrofy wywołanej sztuczną inteligencją
Największe banki USA pracują nad zapobieganiem dramatycznym incydentom, jakie mogą spowodować modele sztucznej inteligencji, ale przygotowują się również na „dzień po katastrofie”. Podobne kroki podjęły firmy AI, które oceniają, że poważne incydenty są nieuniknione - podaje portal Axios. W reakcji na rosnące ryzyko błędów algorytmicznych, instytucje finansowe opracowują protokoły reagowania na błędy w systemach automatyzacji. Eksperti podkreślają, że kryzys wywołany przez AI jest nieunikniony i wymaga proaktywnego zarządzania ryzykiem. Przygotowania obejmują testy awaryjne oraz mechanizmy szybkiego wyłączenia systemów krytycznych.