Mô hình trí tuệ nhân tạo mới của Anthropic, có tên gọi là Thần thoạiĐiều này đã làm dấy lên lo ngại trong giới quản lý tài chính tại Hoa Kỳ và, rộng hơn, trên toàn hệ thống ngân hàng quốc tế. Những gì ban đầu được giới thiệu như một bước tiến đột phá trong khả năng an ninh mạng giờ đây đã trở thành mối quan ngại do tiềm năng công nghệ này có thể bị sử dụng để tấn công các ngân hàng và các cơ sở hạ tầng lớn.
Trong bối cảnh này, Bộ trưởng Tài chính Hoa Kỳ, Scott Bessentvà chủ tịch Cục Dự trữ Liên bang, Jerome PowellHọ đã triệu tập một cuộc họp kín với các giám đốc điều hành hàng đầu của các ngân hàng lớn để trực tiếp truyền đạt những rủi ro mà họ đã xác định. Mặc dù cuộc họp được tổ chức tại Washington và tập trung vào... Ngân hàng Hoa KỳCác loại mối đe dọa được Mythos mô tả cũng ảnh hưởng đến các thực thể châu Âu và Tây Ban Nha, vốn rất dễ bị tấn công tinh vi trong môi trường số hóa.
Một cuộc họp khẩn cấp gây lo ngại cho ngành ngân hàng toàn cầu
Theo một số nguồn tin thân cận với cuộc họp, Bessent và Powell đã tổ chức sự kiện này. cuộc họp khẩn cấp Tận dụng việc các CEO của các ngân hàng lớn đang có mặt tại thủ đô Washington D.C. để thực hiện các cam kết thể chế khác, mục tiêu chính là thảo luận về tác động tiềm tàng của mô hình mới của Anthropic đối với an ninh mạng trong lĩnh vực tài chính.
Cuộc họp diễn ra tại trụ sở Bộ Tài chính ở Washington và có sự tham dự của các CEO của nhiều tổ chức, trong đó có các CEO của nhiều công ty khác. Citigroup, Morgan Stanley, Bank of America, Wells Fargo và Goldman SachsTheo thông tin được Bloomberg đưa tin, Giám đốc điều hành của JPMorgan, Jamie Dimon, không thể tham dự nhưng đã được thông báo tóm tắt về các chủ đề được thảo luận, các nguồn tin thân cận với cuộc đàm phán đã xác nhận điều này.
Trong cuộc họp, Bessent và Powell nhấn mạnh rằng các ngân hàng phải xem xét kỹ lưỡng hệ thống bảo vệ của họ trước các mối đe dọa. các cuộc tấn công mạng nâng caoÝ tưởng được truyền đạt đến những người tham dự là các biện pháp hiện tại vẫn chưa đủ: Sự xuất hiện của các mô hình AI có khả năng tìm ra các lỗ hổng chưa được biết đến Điều này nâng cao đáng kể tiêu chuẩn về phòng thủ kỹ thuật số.
Cố vấn kinh tế quốc gia Nhà Trắng Kevin Hassett đã công khai xác nhận cuộc gặp trong một cuộc phỏng vấn trên truyền hình, giải thích rằng Bộ Tài chính đã tận dụng sự hiện diện của các nhà ngân hàng tại thành phố để trực tiếp giải thích những rủi ro liên quan đến Mythos. Theo ông, chính quyền Mỹ muốn đảm bảo hệ thống tài chính được chuẩn bị sẵn sàng cho các mối đe dọa tiềm tàng phát sinh từ các mô hình này.
Mythos: một mô hình trí tuệ nhân tạo với khả năng tấn công và phòng thủ.
Anthropic đã công bố mô hình của mình trong tuần này. Thần thoại Được xem như một công cụ trí tuệ nhân tạo với khả năng an ninh mạng tiên tiến. Tuy nhiên, chính công ty đã quyết định không triển khai hệ thống này trên diện rộng, chính vì lo ngại rằng việc sử dụng nó có thể làm lộ diện hoặc tạo điều kiện cho việc khai thác các lỗ hổng chưa được vá.
Theo công ty, Mythos sẽ có khả năng phát hiện và khai thác điểm yếu Trên tất cả các hệ điều hành chính và các trình duyệt web hàng đầu trên thị trường. Trên thực tế, điều này có nghĩa là công cụ có thể xác định các lỗ hổng bảo mật nghiêm trọng, có thể được sử dụng để tăng cường khả năng phòng thủ và để thực hiện các cuộc tấn công cực kỳ tinh vi.
Trong những ngày gần đây, Anthropic đã liên tục liên lạc với các quan chức chính phủ Hoa Kỳ để cung cấp thông tin chi tiết về các cuộc gọi. "Năng lực tấn công và phòng thủ mạng" của mô hình đó. Nghĩa là, nó có thể đóng góp như thế nào vào việc bảo vệ cơ sở hạ tầng trọng yếu, nhưng cũng cần lưu ý đến những thiệt hại tiềm tàng nếu công nghệ này rơi vào tay kẻ xấu hoặc được sử dụng mà không có các biện pháp bảo vệ thích hợp.
Các nguồn tin thân cận với cuộc đối thoại giữa công ty và các nhà chức trách cho biết Anthropic đã chủ động thông báo cho các quan chức cấp cao của chính phủ và các nhân vật chủ chốt trong ngành ngay cả trước khi Mythos được chính thức công bố. Mục tiêu là để dự đoán cuộc tranh luận về quy định và tránh một sự ra mắt không kiểm soát có thể làm gia tăng rủi ro cho lĩnh vực tài chính, một trong những lĩnh vực dễ bị tấn công mạng nhất.
Trong bối cảnh này, những cảnh báo mà Bessent và Powell đưa ra cho các ngân hàng lớn cần được hiểu là một phần của chiến lược rộng hơn nhằm... để hạn chế các tác dụng phụ có thể xảy ra trong số các mô hình AI tiên tiến nhất, đặc biệt là vào thời điểm mà cơ sở hạ tầng thanh toán, thị trường và dịch vụ tài chính phụ thuộc rất nhiều vào công nghệ.
Việc hạn chế truy cập vào Mythos và mối lo ngại trong lĩnh vực tài chính.
Để hạn chế rủi ro trước mắt, Anthropic đã quyết định giới hạn quyền truy cập vào Mythos cho một nhóm nhỏ các công ty. Cụ thể, công ty khởi nghiệp này dự định chỉ một vài trong số đó sẽ được tiếp cận Mythos. 40 công ty công nghệ Họ có thể sử dụng mô hình này trong giai đoạn đầu tiên, trong đó có những gã khổng lồ như Microsoft và Google, những công ty rất tích cực trong việc phát triển và triển khai các giải pháp trí tuệ nhân tạo.
Cách tiếp cận này, thận trọng hơn so với thông thường trong lĩnh vực công nghệ, được hiểu là một nỗ lực nhằm đạt được thời gian Trong khi các chính phủ, cơ quan quản lý và khách hàng lớn đang đánh giá phạm vi thực sự về khả năng của Mythos, thông điệp dành cho các ngân hàng, cả ở Hoa Kỳ và châu Âu, rất rõ ràng: sự xuất hiện của các mô hình AI tầm cỡ này đòi hỏi phải xem xét lại một cách cơ bản cách thức quản lý rủi ro mạng.
Trên thực tế, các tổ chức tài chính đã đầu tư một lượng tiền đáng kể vào các hệ thống phòng thủ kỹ thuật số trong nhiều năm, nhưng khả năng trí tuệ nhân tạo (AI) có thể tự động phát hiện các lỗ hổng bảo mật chưa được vá (zero-day vulnerabilities) trên quy mô lớn lại tạo ra thêm một mức độ bất ổn. Về mặt thực tiễn, có những lo ngại rằng Các rào cản hiện tại có thể không đủ Đối phó với những kẻ tấn công sở hữu các công cụ tiên tiến như Mythos.
Phản ứng của các cơ quan quản lý, bằng việc phối hợp tổ chức các cuộc họp với các ngân hàng lớn và yêu cầu Anthropic đưa ra lời giải thích chi tiết, cho thấy cuộc tranh luận này không còn mang tính lý thuyết nữa. Các nhà điều hành và giám sát buộc phải xem xét các kịch bản trong đó mô hình AI có thể vừa bảo vệ hệ thống vừa mở ra cánh cửa cho các cuộc tấn công chưa từng có, điều này đặc biệt nhạy cảm đối với... ổn định tài chính.
Ở thời điểm này, sự liên lạc giữa khu vực tư nhân và chính quyền đã trở nên vô cùng quan trọng. Theo các nguồn tin mà nhiều phương tiện truyền thông tham khảo, cả Bộ Tài chính và Cục Dự trữ Liên bang đều yêu cầu các ngân hàng tăng cường đánh giá rủi ro công nghệ nội bộ và duy trì... đối thoại trôi chảy Trao đổi với các cơ quan quản lý về những lỗ hổng tiềm ẩn có thể được phát hiện trong những tháng tới.
Những tác động đối với các ngân hàng châu Âu và Tây Ban Nha
Mặc dù cuộc họp do Bessent và Powell triệu tập tập trung vào các ngân hàng lớn của Mỹ, vấn đề này vượt ra ngoài biên giới. Bản chất toàn cầu của hệ điều hành, trình duyệt và nền tảng công nghệ có nghĩa là... bất kỳ lỗ hổng nào Những gì Mythos xác định có thể ảnh hưởng đến một thực thể ở New York, Frankfurt, Paris hoặc Madrid như nhau.
Các ngân hàng châu Âu, bao gồm cả các ngân hàng Tây Ban Nha, hoạt động trên cơ sở... cơ sở hạ tầng kỹ thuật số Về cơ bản, chúng có chung các thành phần với các hệ thống tương tự của Mỹ. Điều này có nghĩa là nếu Mythos có thể tìm ra những lỗ hổng nghiêm trọng trong các hệ thống được sử dụng rộng rãi, những điểm yếu này có thể bị tội phạm mạng khai thác để tấn công các ngân hàng ở khu vực đồng euro hoặc thị trường Tây Ban Nha.
Đối với các tổ chức thuộc sự giám sát của Ngân hàng Trung ương châu Âu (ECB) và các cơ quan giám sát quốc gia, tình huống này càng nhấn mạnh tầm quan trọng của việc phối hợp với các tổ chức an ninh mạng quốc tế. Trên thực tế, các cảnh báo từ Hoa Kỳ liên quan đến mô hình kinh doanh của Anthropic đang được theo dõi sát sao. các cơ quan chức năng châu ÂuĐiều này đã làm gia tăng các yêu cầu về khả năng phục hồi kỹ thuật số của ngành tài chính trong những năm gần đây.
Về vấn đề này, dự kiến các cơ quan giám sát châu Âu sẽ yêu cầu các ngân hàng xem xét lại kỹ lưỡng hơn các kế hoạch dự phòng của mình trước các cuộc tấn công mạng tiên tiến, do bước tiến vượt bậc về chất lượng mà các thế hệ trí tuệ nhân tạo mới mang lại. Các ưu tiên sẽ bao gồm bảo vệ hệ thống thanh toán, đảm bảo an ninh cho hoạt động ngân hàng trực tuyến và di động, cũng như bảo vệ thông tin liên lạc nội bộ và bên ngoài của các tổ chức.
Hơn nữa, việc phê duyệt gần đây khung pháp lý của châu Âu về trí tuệ nhân tạo và các tiêu chuẩn về khả năng phục hồi hoạt động kỹ thuật số trong lĩnh vực tài chính (như quy định DORA) đã tạo cơ sở để yêu cầu các tổ chức tích hợp tác động tiềm tàng của các mô hình như Mythos vào phân tích rủi ro của họ. Trên thực tế, điều này sẽ buộc tăng cường hợp tác Giữa các bộ phận công nghệ, an ninh mạng, tuân thủ quy định và quản lý rủi ro trong các ngân hàng châu Âu.
Phối hợp quốc tế và các bước tiếp theo dành cho các cơ quan quản lý và ngân hàng.
Mối lo ngại do Mythos gây ra không chỉ giới hạn ở Hoa Kỳ. Chính phủ và các nhà chức trách ở các quốc gia khác cũng đang bắt đầu quan tâm đến vấn đề này. các mô hình AI có tác động cao trong chương trình an ninh mạng tài chính của họ, nhận thức rằng các cuộc tấn công không biên giới hay phạm vi pháp lý nào.
Ví dụ, tại Bắc Mỹ, các quan chức từ Bộ Tài chính Canada và Ngân hàng Trung ương Canada đã tổ chức các cuộc họp với các giám đốc điều hành ngân hàng, trong đó trí tuệ nhân tạo và mô hình mới của Anthropic nằm trong chương trình nghị sự. Mặc dù chi tiết chưa được công bố, những cuộc họp này cho thấy sự phối hợp quốc tế mạnh mẽ hơn trong việc đánh giá các rủi ro công nghệ mới nổi.
Đối với các ngân hàng, cả ở Mỹ và châu Âu, ưu tiên trước mắt là cập nhật khuôn khổ quản lý rủi ro công nghệ của họTăng cường giám sát mối đe dọa và rà soát an ninh của các nhà cung cấp quan trọng, bao gồm các tập đoàn công nghệ lớn và các nhà cung cấp dịch vụ đám mây, là vô cùng cần thiết. Khả năng trí tuệ nhân tạo (AI) phát hiện các lỗ hổng trên quy mô lớn đòi hỏi thời gian phản hồi ngắn hơn và quy trình vá lỗi và cập nhật được cải thiện.
Các cơ quan quản lý dự kiến sẽ tăng cường áp lực lên các tổ chức để nhanh chóng báo cáo bất kỳ sự cố an ninh mạng nào có thể liên quan đến các công cụ trí tuệ nhân tạo mới. Hơn nữa, có khả năng các nhà chức trách sẽ yêu cầu các công ty như Anthropic áp dụng [các công nghệ/tiêu chuẩn kỹ thuật cụ thể dựa trên AI]. cam kết minh bạch bổ sung về cách họ quản lý quyền truy cập vào các mô hình nhạy cảm nhất của mình.
Song song đó, các cơ quan giám sát tài chính sẽ theo dõi sát sao cách các ngân hàng sử dụng các mô hình AI tiên tiến trong hoạt động hàng ngày của họ. Mặc dù các công nghệ này mang lại những lợi thế rõ ràng về hiệu quả và phát hiện gian lận, nhưng chúng cũng tạo ra những rủi ro mới cần được tích hợp vào các kế hoạch vốn, kiểm tra khả năng chịu áp lực và kế hoạch ứng phó khủng hoảng.
Động thái triệu tập các giám đốc điều hành hàng đầu ngành ngân hàng của Bessent và Powell đánh dấu một bước ngoặt trong cuộc thảo luận về trí tuệ nhân tạo và an ninh mạng: các mô hình như Mythos không còn chỉ là vấn đề của lĩnh vực công nghệ mà giờ đây đã trở thành trọng tâm của chương trình nghị sự. ổn định tài chính toàn cầuĐiều này có tác động trực tiếp đến các ngân hàng, cơ quan quản lý và cuối cùng là đến... khách hàng và người tiết kiệm Từ Hoa Kỳ, châu Âu và phần còn lại của thế giới.
