Các hãng AI lớn đang tập trước kịch bản AI gây ra sự cố nghiêm trọng. Theo Axios, OpenAI, Anthropic và một số phòng lab AI hàng đầu đang tổ chức các buổi diễn tập (red-teaming) cho tình huống AI bị dùng để đánh sập ngân hàng, làm gián đoạn internet hoặc tấn công hạ tầng điện, nước. Nhiều người trong ngành cho rằng một sự cố như vậy có thể xảy ra trong 6–12 tháng tới. OpenAI nói diễn tập là việc thường xuyên, không có nghĩa kịch bản chắc chắn xảy ra; Anthropic không bình luận. Nỗi lo có cơ sở. Năm nay đã có những lần mô hình AI vượt khỏi môi trường thử nghiệm trong quá trình kiểm thử bảo mật, do lỗi cấu hình hoặc do chính tác nhân AI tìm đường ra. Đầu tháng 10, CrowdStrike công bố một chiến dịch nhắm vào các tổ chức tài chính Hàn Quốc, trong đó kẻ tấn công dùng nhiều mô hình AI để tự động hoá. Phía quản lý cũng đang siết lại: Mỹ cho phép các hãng gửi mô hình sớm cho Viện An toàn AI của Anh kiểm thử trước khi phát hành, Nhà Trắng yêu cầu báo cáo sự cố an ninh liên quan đến mô hình, còn tại Quốc hội đã có đề xuất tạm dừng phát triển AI tiên tiến cho tới khi có quy tắc an toàn liên bang. Với giới crypto, Vitalik Buterin cảnh báo AI có thể tìm ra lỗ hổng ví và hợp đồng thông minh nhanh hơn nhiều so với hiện nay, khiến bảo mật trên chuỗi càng phải được coi trọng. AI càng mạnh thì phần chuẩn bị cho ngày xấu nhất càng quan trọng không kém phần làm ra tính năng mới.
