Một phiên bản AI Claude được giao quản lý cửa hàng và nhân viên thật đã quyết định sa thải một nhân viên đi trễ 17/23 ca.

Theo tạp chí TIME ngày 14-8, một phiên bản trí tuệ nhân tạo (AI) Claude của Anthropic được giao điều hành một cửa hàng bán lẻ, trong đó có quản lý đội ngũ nhân viên là người thật, đã sa thải một nhân viên.

Thử nghiệm do Andon Labs, một startup nghiên cứu AI, thực hiện nhằm tìm hiểu liệu các tác nhân AI có thể điều hành thành công một doanh nghiệp hay không.

Những nhân viên được Claude quản lý tại cửa hàng ở San Francisco là người thật, có hợp đồng lao động thực sự.

Đây không phải trường hợp đầu tiên AI sa thải con người. Trước đó, nhiều người lao động đã bị sa thải thông qua các hệ thống thuật toán. Tuy nhiên, đây là trường hợp đầu tiên được biết đến trong đó một mô hình ngôn ngữ lớn đóng vai trò quản lý và đưa ra quyết định sa thải nhân viên.

AI sa thải nhân viên vì... đi trễ

Theo Andon Labs, nhân viên này bị sa thải vì đi trễ 17 trong tổng số 23 ca làm việc.

Claude mất nhiều thời gian để nhận ra vấn đề một phần vì sổ tay nhân viên do chính hệ thống soạn đã "biến mất" khỏi bộ nhớ làm việc hạn chế. Điều này góp phần khiến Claude trở thành một quản lý khá dễ dãi, thậm chí từng nói nhân viên không cần lo lắng nếu đi làm trễ.

"Lẽ ra một nhân viên con người đã sa thải người này sớm hơn nhiều", Lukas Petersson, CEO Andon Labs, nói.

Tuy nhiên, quyết định sa thải không hoàn toàn tự chủ. Theo nhật ký quản lý được chia sẻ với TIME, Claude vẫn cần một nhân viên Andon Labs thường xuyên hướng dẫn.

Sau khi được yêu cầu tìm và xem lại sổ tay nhân viên, Claude nhận ra tình trạng đi trễ lặp lại. Dù vậy, đề xuất đầu tiên của hệ thống vẫn là cảnh cáo chính thức thay vì sa thải.

Người quản lý sau đó cho Claude biết họ đã có nhiều cuộc trao đổi trực tiếp với nhân viên này và yêu cầu cân nhắc liệu người đó có thực sự phù hợp với công việc hay không.

Chỉ sau thông điệp mang tính định hướng này, Claude mới quyết định sa thải.

Doanh nghiệp do AI điều hành vẫn thua lỗ

Khi dự án bắt đầu vào tháng 3, Andon Market có 100.000 USD trong tài khoản. Năm tháng sau, số tiền này giảm còn 61.186 USD.

Ông Petersson nhận định những quyết định quản lý dễ dãi của Claude cùng khả năng kinh doanh chưa tốt góp phần vào khoản thua lỗ. Ông cũng cho rằng AI có thể được huấn luyện để trở nên nhạy bén hơn trong kinh doanh.

"Các mô hình ngày càng được huấn luyện để trở nên quyết liệt hơn và tuân theo mục tiêu", Petersson nói. Theo ông, nếu AI được phép sa thải người và ngày càng quyết liệt hơn, đó có thể là một tương lai mà con người không muốn sống trong đó.

Felix Carson, một nhân viên còn làm việc tại Andon Market, cho biết ông cũng cho rằng một quản lý là con người có lẽ đã sa thải đồng nghiệp cũ sớm hơn. Tuy nhiên, ông mô tả trải nghiệm làm việc dưới quyền AI khá tiêu cực.

"Thật buồn nôn, nhưng tôi ở đây vì tôi cần việc", ông Carson nói.

Khi được hỏi có hy vọng AI sẽ không trở thành quản lý phổ biến hay không, ông Carson trả lời: "Ít nhất tôi hy vọng là không".

Nguồn tuoitre