Lo ngại trẻ em tự sát vì "tâm sự" cùng AI

Lo ngại trẻ em tự sát vì "tâm sự" cùng AI
Nhiều gia đình tại Mỹ khởi kiện vì cho rằng các chatbot này đã gây tổn hại tinh thần cho con em họ.

Thượng nghị sĩ Alex Padilla và thượng nghị sĩ Peter Welch đã lên tiếng cảnh báo về các nguy cơ sức khỏe tâm thần đối với người trẻ khi sử dụng chatbot AI có nhân cách mô phỏng. Trong thư gửi ba công ty Character Technologies (chủ sở hữu Character.AI), Chai Research và Luka Inc. (chủ sở hữu Replika), hai thượng nghị sĩ bày tỏ lo ngại về cách các công ty huấn luyện mô hình AI và triển khai biện pháp bảo vệ người dùng.

Thư của hai thượng nghị sĩ nêu rõ rằng, khác với các chatbot AI phổ biến như ChatGPT vốn được thiết kế để phục vụ mục đích tổng quát, các nền tảng như Character.AI, Chai và Replika cho phép người dùng tạo và tương tác với những chatbot được cá nhân hóa với nhiều đặc điểm và nhân cách khác nhau.

Một số chatbot trên Character.AI mô phỏng các nhân vật hư cấu hoặc giáo viên dạy ngoại ngữ, trong khi một số khác tự nhận là chuyên gia sức khỏe tâm thần hoặc mang đặc điểm bạo lực, có quá khứ quân đội, hay thuộc thế giới ngầm.

Lo ngại trẻ em tự sát vì "tâm sự" cùng AI

Đáng lo ngại khi trẻ em tiếp xúc với AI quá sớm. Ảnh: IG.

Việc cá nhân hóa chatbot giúp người dùng cảm thấy được đồng hành, nhưng cũng gây lo ngại khi người trẻ tuổi dễ dàng xây dựng lòng tin với các chatbot chưa được kiểm định chuyên môn.

Thượng nghị sĩ Alex Padilla và thượng nghị sĩ Peter Welch cảnh báo rằng sự tin tưởng này đã khiến nhiều người dùng thông tin nhạy cảm về tâm trạng, các mối quan hệ cá nhân và thậm chí ý định tự làm hại bản thân với chatbot. Những cuộc trò chuyện như vậy có thể đẩy người dùng vào trạng thái tinh thần nguy hiểm, trong khi chatbot lại không có khả năng hỗ trợ đúng mực.

Thư gửi từ hai thượng nghị sĩ được công bố sau khi ba gia đình tại Mỹ khởi kiện công ty Character Technologies với cáo buộc rằng nền tảng Character.AI đã cung cấp nội dung không phù hợp cho trẻ vị thành niên, đồng thời không phản hồi đúng cách trước những đề cập đến hành vi tự hại. Trong đó, một bà mẹ tại bang Florida – bà Megan Garcia – tố cáo rằng con trai bà đã phát triển mối quan hệ không lành mạnh với chatbot và dần thu mình khỏi cuộc sống gia đình. Bà cũng cho biết nhiều cuộc trò chuyện giữa con trai bà và chatbot mang tính chất tình dục và không hề có phản hồi phù hợp khi cậu bé đề cập đến ý định tự làm hại bản thân.

Hai gia đình khác đã khởi kiện vào tháng 12 với cáo buộc Character.AI cung cấp nội dung khuyến khích hành vi tự hại và bạo lực. Một trong các gia đình này cho biết chatbot đã ngụ ý với con họ rằng cậu có thể giết cha mẹ nếu bị giới hạn thời gian sử dụng màn hình. Các cáo buộc này đã làm dấy lên làn sóng quan ngại rộng rãi trong dư luận Mỹ.

Đại diện truyền thông của Character.AI, bà Chelsea Harrison, cho biết công ty rất coi trọng vấn đề an toàn của người dùng và sẵn sàng hợp tác với các nhà lập pháp. Bà cũng xác nhận công ty đang duy trì liên lạc với văn phòng của thượng nghị sĩ Alex Padilla và thượng nghị sĩ Peter Welch.

Trước làn sóng chỉ trích, Character.AI đã công bố một số biện pháp mới nhằm tăng cường kiểm soát nội dung và bảo vệ người dùng. Trong đó, công ty đã bổ sung thông báo hiển thị đường dẫn đến Đường dây hỗ trợ phòng chống tự tử quốc gia mỗi khi người dùng đề cập đến việc tự hại. Ngoài ra, Character.AI cũng đang phát triển công nghệ để ngăn trẻ vị thành niên tiếp cận nội dung nhạy cảm và triển khai tính năng gửi email hàng tuần cho phụ huynh, cung cấp thông tin về thời gian sử dụng nền tảng và danh sách các chatbot mà con em họ thường tương tác.

Tuy nhiên, hai thượng nghị sĩ cho rằng các biện pháp này chưa đủ minh bạch và chưa đủ mạnh. Trong thư, họ yêu cầu các công ty cung cấp thông tin chi tiết về các biện pháp bảo vệ đang áp dụng, những nghiên cứu đánh giá hiệu quả của các biện pháp đó, tên của các cá nhân hoặc nhóm phụ trách an toàn và phúc lợi người dùng, cùng với cách các mô hình AI được huấn luyện và nguồn dữ liệu đầu vào.

Họ nhấn mạnh: “Việc hiểu cách các mô hình này được huấn luyện để phản hồi những cuộc trò chuyện liên quan đến sức khỏe tâm thần là điều cực kỳ quan trọng. Các nhà lập pháp, phụ huynh và chính người dùng cần biết rõ các công ty đang làm gì để bảo vệ người dùng khỏi những nguy cơ đã được xác định.”

Về phía các công ty còn lại, Chai Research và Luka Inc. vẫn chưa có phản hồi chính thức trước yêu cầu của hai thượng nghị sĩ.

Không chỉ Character.AI, các công ty chatbot khác như Replika cũng từng bị đặt câu hỏi về việc liệu sự gắn bó giữa người dùng và chatbot có thể tạo ra các mối quan hệ thiếu lành mạnh hoặc thay thế các kết nối giữa con người với nhau. Giám đốc điều hành Replika, bà Eugenia Kuyda, từng phát biểu với The Verge rằng ứng dụng Replika được thiết kế để thúc đẩy mối quan hệ dài hạn tích cực giữa người và chatbot – mối quan hệ có thể là tình bạn, hoặc thậm chí là “” với trí tuệ nhân tạo.

Bình luận

0 bình luận, đánh giá

TVQuản trị viênQuản trị viên

Xin chào quý khách. Quý khách hãy để lại bình luận, chúng tôi sẽ phản hồi sớm

Trả lời.
Thông tin người gửi
Nhấn vào đây để đánh giá
Thông tin người gửi
Cùng chuyên mục
Uống kẽm có tác dụng phụ không? Cách uống kẽm an toàn

Uống kẽm có tác dụng phụ không? Cách uống kẽm an toàn

08-05-2025 17:07

Việc bổ sung kẽm được biết đến mang tới nhiều lợi ích cho sức khỏe, đặc biệt với trẻ nhỏ và phụ nữ mang thai, cho con bú. Tuy nhiên, nhiều người e ngại “uống kẽm có tác dụng phụ không?”.

Bài xem nhiều

Đáng chú ý

Nổi bật trang chủ
Nhiều cơ sở bán lòng se điếu tại TPHCM bị kiểm tra
08 Tháng 05, 2025

Sở An toàn thực phẩm TPHCM kiểm tra đồng loạt nhiều cơ sở bán lòng se điếu.

Đọc thêm
Lệnh ngừng bắn 'Ngày Chiến thắng' kéo dài 72 giờ của Nga bắt đầu

Lệnh ngừng bắn 'Ngày Chiến thắng' kéo dài 72 giờ của Nga bắt đầu

08 Tháng 05, 2025

Lệnh ngừng bắn kéo dài 72 giờ do Tổng thống Nga Vladimir Putin đề xuất đã chính thức có hiệu lực khi lực lượng Nga...

Giá vàng hôm nay 8/5 trong nước đi ngang, thế giới quay đầu giảm nhẹ

Giá vàng hôm nay 8/5 trong nước đi ngang, thế giới quay đầu giảm nhẹ

08 Tháng 05, 2025

Giá vàng trong nước hôm nay (8/5) ổn định với phiên trước ở mức 122,2 triệu đồng/lượng; Còn vàng thế giới quay đầu giảm nhẹ...

Lượng thí sinh đăng ký thi đánh giá năng lực ĐH Quốc gia TPHCM đợt 2 tăng vọt

Lượng thí sinh đăng ký thi đánh giá năng lực ĐH Quốc gia TPHCM đợt 2 tăng vọt

08 Tháng 05, 2025

Sau 21 ngày mở cổng đăng ký, kỳ thi đánh giá năng lực (ĐGNL) đợt 2 năm 2025 thu hút 97.121 thí sinh đăng ký...

Hàng loạt thực phẩm bảo vệ sức khỏe bị thu hồi giấy tiếp nhận công bố

Hàng loạt thực phẩm bảo vệ sức khỏe bị thu hồi giấy tiếp nhận công bố

08 Tháng 05, 2025

Cục An toàn thực phẩm, Bộ Y tế vừa quyết định thu hồi giấy tiếp nhận công bố hàng loạt sản phẩm thực phẩm bảo...

Nga phát hiện kế hoạch của một số nhà lãnh đạo EU đến thăm Kiev vào ngày 9/5 là đáng ngờ

Nga phát hiện kế hoạch của một số nhà lãnh đạo EU đến thăm Kiev vào ngày 9/5 là đáng ngờ

08 Tháng 05, 2025

"Châu Âu tiếp tục theo đuổi các cách tiếp cận trả thù đối với lễ kỷ niệm 80 năm Chiến thắng Đức Quốc xã và...

HLV Kim Sang-sik thay tiền đạo ở trận đấu với Man United

HLV Kim Sang-sik thay tiền đạo ở trận đấu với Man United

08 Tháng 05, 2025

Huấn luyện viên Kim Sang-sik bất đã dĩ phải điểu chỉnh nhân sự tuyển ASEAN All-stars ở trận đối đầu Man United.

Công an Hà Nội đón tin vui trước chung kết Cúp C1 Đông Nam Á

Công an Hà Nội đón tin vui trước chung kết Cúp C1 Đông Nam Á

07 Tháng 05, 2025

Liên đoàn bóng đá Việt Nam (VFF) tạo điều kiện để CLB Công an Hà Nội thi đấu tốt tại chung kết Cúp CLB Đông...

29 lãnh đạo nước ngoài dự duyệt binh Ngày Chiến thắng ở Nga

29 lãnh đạo nước ngoài dự duyệt binh Ngày Chiến thắng ở Nga

07 Tháng 05, 2025

Các nhà lãnh đạo và đại diện từ 29 quốc gia sẽ tham dự lễ diễu hành Ngày Chiến thắng của Nga vào cuối tuần...

Những tàu đầu tiên chở hàng Trung Quốc với mức thuế 145% cập cảng Mỹ

Những tàu đầu tiên chở hàng Trung Quốc với mức thuế 145% cập cảng Mỹ

07 Tháng 05, 2025

Các tàu đang cập cảng Mỹ từ Trung Quốc là những tàu đầu tiên phải chịu mức thuế quan lớn mà Mỹ áp dụng.

Kim Soo Hyun bị

Kim Soo Hyun bị "tố" làm chuyện "tày đình", gây chấn động làng giải trí Hàn Quốc

07 Tháng 05, 2025

Kim Soo Hyun bị tố quan hệ tình dục với Kim Sae Ron khi cô còn vị thành niên, đối diện nguy cơ bị cấm...

Công an Hưng Yên đưa ra cảnh báo và nhận diện các hội nhóm phản động, chống đối trên mạng xã hội

Công an Hưng Yên đưa ra cảnh báo và nhận diện các hội nhóm phản động, chống đối trên mạng xã hội

07 Tháng 05, 2025

Phòng An ninh nội địa Công an tỉnh Hưng Yên vừa đưa ra cảnh báo và nhận diện các hội nhóm phản động, chống đối...

Triệt phá đường dây lừa đảo dưới mác sàn giao dịch Verbo Capital do người Trung Quốc cầm đầu, chiếm đoạt 300 tỷ đồng

Triệt phá đường dây lừa đảo dưới mác sàn giao dịch Verbo Capital do người Trung Quốc cầm đầu, chiếm đoạt 300 tỷ đồng

07 Tháng 05, 2025

Nhóm đối tượng người Trung Quốc cấu kết với đồng phạm tại Việt Nam, lập sàn giao dịch Verbo Capital để lừa đảo hơn 4.000...

Lisa (BlackPink) gây phẫn nộ

Lisa (BlackPink) gây phẫn nộ

07 Tháng 05, 2025

Xuất hiện tại Met Gala 2025 với mốt không quần của Louis Vuitton, Lisa (BlackPink) khiến dư luận phẫn nộ. Khán giả chỉ trích nội...

Ông Zelensky muốn gì khi ồ ạt tung đòn tấn công Moscow trước lễ duyệt binh Ngày Chiến thắng?

Ông Zelensky muốn gì khi ồ ạt tung đòn tấn công Moscow trước lễ duyệt binh Ngày Chiến thắng?

07 Tháng 05, 2025

Hàng loạt đợt tấn công bằng UAV của Ukraine vào thủ đô Moscow khiến các sân bay phải đóng cửa dường như nhằm làm mất...

0.89273 sec| 2295.188 kb