Hệ thống nhận dạng khuôn mặt tự động tại Sân bay Václav Havel ở Praha sẽ được tái khởi động vào cuối năm nay. Cảnh sát đã tạm thời vô hiệu hóa hệ thống do quy định pháp luật mới của Liên minh châu Âu về trí tuệ nhân tạo (AI). Theo chuyên gia an ninh mạng Jakub Alimov, sân bay vẫn an toàn vì có nhiều lớp bảo vệ khác hoạt động đồng thời. Tuy nhiên, đồng sáng lập dự án công nghệ Lexicon Labs – ông Daniil Shakhovskiy – cho rằng các quy định hành chính đang gây cản trở không cần thiết.

Luật mới yêu cầu phải có sự cho phép trước bằng văn bản từ chủ tọa tòa án cấp cao có thẩm quyền thì hệ thống mới được tiếp tục vận hành. Cảnh sát tin rằng họ sẽ sớm nhận được phê duyệt để có thể tái khởi động hệ thống ngay trong năm nay.

“Đây là Đạo luật AI (AI Act), một quy định thống nhất đầu tiên của châu Âu về trí tuệ nhân tạo. Luật cấm theo dõi người dân bằng hệ thống AI mà không có lệnh tòa án khi triển khai quy mô lớn, bởi nó được xem là hành vi có rủi ro cao,” ông Alimov giải thích lý do hệ thống bị dừng. Không chỉ liên quan đến xử lý hình ảnh khuôn mặt, luật còn điều chỉnh bất kỳ dữ liệu nhạy cảm nào do AI xử lý và quyết định – thậm chí nếu ảnh hưởng đến việc tiếp cận dịch vụ.

Mặc dù công nghệ nhận dạng khuôn mặt đã từng bị một bộ phận công chúng chỉ trích là xâm phạm quyền riêng tư, nhưng trong sáu năm hoạt động, hệ thống đã giúp bắt giữ 155 đối tượng tình nghi, trong đó có nhiều tội phạm nghiêm trọng.

“Hệ thống này được liên kết với hàng trăm camera an ninh, và đóng vai trò như "bộ não". AI tự động phân tích khuôn mặt trong thời gian thực – chẳng hạn nhận diện người nước ngoài bị cấm nhập cảnh vào Séc,” chuyên gia giải thích.

Thiếu hệ thống, cảnh sát trở lại làm việc “thủ công”

Theo ông Alimov, giờ đây cảnh sát phải làm nhiều việc theo cách thủ công hơn. Tuy vậy, ông trấn an: “Đây chỉ là một phần trong hệ sinh thái an ninh của sân bay. Hệ thống bị ngắt không đồng nghĩa với việc sân bay kém an toàn.” Ông nói thêm rằng sân bay vẫn còn nhiều công nghệ hỗ trợ khác như hệ thống theo dõi cử động, hành vi khả nghi, quản lý hành lý bị bỏ quên, các máy quét tia X, máy đọc hộ chiếu sinh trắc học.

Tuy nhiên, theo ông Shakhovskiy, việc ngừng hệ thống là một bước thụt lùi. “Một hệ thống đã được chứng minh là rất hiệu quả, đã giúp bắt giữ nhiều tội phạm nguy hiểm, giờ lại bị dừng lại vì thủ tục hành chính,” ông nói với hãng tin ČTK.

Trong khi công nghệ có thể ngăn chặn nhiều tội ác nghiêm trọng, theo ông, "chúng ta đang làm suy yếu năng lực của những người bảo vệ an toàn cho xã hội nhân danh một sự chờ đợi pháp lý không cần thiết." Ông đưa ra cảnh báo: “Trách nhiệm lớn giờ lại dồn hoàn toàn lên vai cảnh sát, vốn đã phải đối mặt với vô vàn thách thức. Họ buộc phải quay trở lại phương thức cũ đã lạc hậu trong khi các rủi ro thì ngày càng hiện đại.”

Đạo luật AI mới – cùng với bộ quy tắc tự nguyện

Đạo luật về AI (AI Act) được thông qua vào tháng 8 năm ngoái và là quy định toàn diện đầu tiên về trí tuệ nhân tạo trên thế giới. Các quy định mới có hiệu lực từ thứ Bảy vừa qua và đặc biệt áp dụng cho các nhà cung cấp mô hình AI lớn như ChatGPT, Gemini hay Claude.

Luật tập trung vào các mô hình AI chung ra mắt sau ngày 2/8. Với các mô hình ra mắt trước thời điểm đó, có một giai đoạn chuyển tiếp kéo dài 2 năm, đến tháng 8 năm 2027. Các hệ thống AI mới phải được đính kèm tài liệu kỹ thuật, thông tin cho các đối tác thứ cấp trong chuỗi cung ứng, và bản tổng hợp về dữ liệu đã sử dụng để huấn luyện.

“Đây là quy định đầu tiên trên thế giới đặt giới hạn đối với AI. EU là nơi tiên phong và thiết lập khung quản lý dựa theo cấp độ rủi ro. Có những điều rõ ràng là bị cấm – ví dụ như quét khuôn mặt diện rộng. Nhưng cũng có những thứ chưa được kiểm soát, ví dụ như video deepfake,” ông Alimov bổ sung.

Bên cạnh đạo luật, còn có bộ quy tắc ứng xử tự nguyện với mục tiêu giảm thiểu nội dung vi phạm bản quyền, thiết lập quy trình đánh giá rủi ro trước và sau khi đưa mô hình ra thị trường.

Tuy nhiên, ông Shakhovskiy cho rằng những bộ quy tắc tự nguyện này là chưa đủ.

"Việc do dự quá mức đang khiến chúng ta phụ thuộc vào các mô hình AI của những ông lớn toàn cầu. Ai không có công cụ xác minh nguồn gốc và tính thật – thì sẽ tụt lại phía sau. Chúng ta cần những tiêu chuẩn tối thiểu bắt buộc và lớp hạ tầng hoạt động độc lập với các nền tảng lớn. Kẻ chiến thắng là người hành động, không phải người chỉ biết chờ lệnh," ông kết luận.

(Theo CT 24)