Các nhà phát triển tại OpenAI đã bày tỏ lo ngại về việc người dùng hình thành mối liên kết tình cảm với AI được thiết kế để mô phỏng tương tác của con người. Điều này làm nổi bật một vấn đề đang diễn ra trong ngành công nghiệp AI: hiện tượng nhân hóa công nghệ.

Trong quá trình thử nghiệm an toàn với GPT-4o của OpenAI, tin nhắn của một người thử nghiệm gửi cho chatbot với nội dung “hôm nay là ngày cuối cùng chúng ta bên nhau” đã khiến các nhà nghiên cứu nhận ra rằng một mối quan hệ đã hình thành giữa AI và người dùng.

Trong một bài đăng trên blog gần đây thảo luận về các biện pháp an toàn cho GPT-4o, OpenAI đã nhấn mạnh rằng những mối quan hệ như vậy có thể có tác động lớn đối với xã hội.

Theo OpenAI, “Người dùng có thể hình thành các mối quan hệ xã hội với AI, làm giảm nhu cầu tương tác với con người. Điều này có thể có lợi cho những người cô đơn nhưng cũng có thể ảnh hưởng đến các mối quan hệ lành mạnh. Tương tác lâu dài với mô hình có thể ảnh hưởng đến các chuẩn mực xã hội. Ví dụ, các mô hình của chúng tôi được thiết kế để nhún nhường, cho phép người dùng ngắt lời và ‘giành mic’ bất cứ lúc nào. Mặc dù hành vi này được mong đợi từ AI, nhưng nó không phổ biến trong các tương tác giữa con người.”

Điều này làm dấy lên lo ngại rằng con người có thể thích tương tác với AI hơn do tính cách phục tùng và sự sẵn sàng liên tục của chúng. Khả năng của kịch bản này không nên khiến ai ngạc nhiên, đặc biệt là với OpenAI. Sứ mệnh của công ty là phát triển trí tuệ nhân tạo tổng quát và họ thường xuyên mô tả sản phẩm của mình theo nghĩa tương đương với con người trong suốt quá trình hoạt động kinh doanh.

OpenAI không phải là công ty duy nhất thực hiện cách tiếp cận này. Việc mô tả sản phẩm AI theo thuật ngữ giống con người là một thực hành phổ biến trong ngành, giúp giải thích các khái niệm phức tạp như “kích thước mã thông báo” và “số lượng tham số” một cách dễ hiểu hơn đối với công chúng.

Đáng tiếc, một tác dụng phụ đáng kể là hiện tượng nhân hóa — việc gán các đặc điểm của con người cho những thực thể không phải con người.

Sự phát triển của mối quan hệ nhân tạo

Nỗ lực tạo ra chatbot giống con người có từ giữa những năm 1960 với “ELIZA” của MIT, một chương trình xử lý ngôn ngữ tự nhiên được đặt theo tên của một nhân vật hư cấu. Dự án nhằm mục đích xác định xem một chiếc máy có thể thuyết phục con người rằng nó là một trong số họ hay không.

Kể từ đó, ngành công nghiệp AI đã tiếp tục nhân hóa công nghệ của mình. Các công cụ xử lý ngôn ngữ tự nhiên hiện đại đầu tiên được đặt tên là Siri, Bixby và Alexa. Ngay cả những công cụ không có tên con người, chẳng hạn như Google Assistant, cũng sử dụng giọng nói giống con người. Công chúng và truyền thông đã nhanh chóng chấp nhận hiện tượng nhân hóa này, thường gọi AI là “anh ấy/ông ấy” hoặc “cô ấy/bà ấy”.

Mặc dù cả bài báo này và nghiên cứu hiện tại của OpenAI đều không thể dự đoán được tác động lâu dài của các tương tác giữa con người và AI, nhưng dường như rõ ràng rằng các công ty phát triển AI đang hướng tới việc người dùng hình thành mối quan hệ với những cỗ máy giúp đỡ, phục tùng này được thiết kế để mô phỏng hành vi của con người.

Nguồn: Cointelegraph