Lo ngại trẻ em tự sát vì "tâm sự" cùng AI

Lo ngại trẻ em tự sát vì "tâm sự" cùng AI
Nhiều gia đình tại Mỹ khởi kiện vì cho rằng các chatbot này đã gây tổn hại tinh thần cho con em họ.

Thượng nghị sĩ Alex Padilla và thượng nghị sĩ Peter Welch đã lên tiếng cảnh báo về các nguy cơ sức khỏe tâm thần đối với người trẻ khi sử dụng chatbot AI có nhân cách mô phỏng. Trong thư gửi ba công ty Character Technologies (chủ sở hữu Character.AI), Chai Research và Luka Inc. (chủ sở hữu Replika), hai thượng nghị sĩ bày tỏ lo ngại về cách các công ty huấn luyện mô hình AI và triển khai biện pháp bảo vệ người dùng.

Thư của hai thượng nghị sĩ nêu rõ rằng, khác với các chatbot AI phổ biến như ChatGPT vốn được thiết kế để phục vụ mục đích tổng quát, các nền tảng như Character.AI, Chai và Replika cho phép người dùng tạo và tương tác với những chatbot được cá nhân hóa với nhiều đặc điểm và nhân cách khác nhau.

Một số chatbot trên Character.AI mô phỏng các nhân vật hư cấu hoặc giáo viên dạy ngoại ngữ, trong khi một số khác tự nhận là chuyên gia sức khỏe tâm thần hoặc mang đặc điểm bạo lực, có quá khứ quân đội, hay thuộc thế giới ngầm.

Lo ngại trẻ em tự sát vì "tâm sự" cùng AI

Đáng lo ngại khi trẻ em tiếp xúc với AI quá sớm. Ảnh: IG.

Việc cá nhân hóa chatbot giúp người dùng cảm thấy được đồng hành, nhưng cũng gây lo ngại khi người trẻ tuổi dễ dàng xây dựng lòng tin với các chatbot chưa được kiểm định chuyên môn.

Thượng nghị sĩ Alex Padilla và thượng nghị sĩ Peter Welch cảnh báo rằng sự tin tưởng này đã khiến nhiều người dùng thông tin nhạy cảm về tâm trạng, các mối quan hệ cá nhân và thậm chí ý định tự làm hại bản thân với chatbot. Những cuộc trò chuyện như vậy có thể đẩy người dùng vào trạng thái tinh thần nguy hiểm, trong khi chatbot lại không có khả năng hỗ trợ đúng mực.

Thư gửi từ hai thượng nghị sĩ được công bố sau khi ba gia đình tại Mỹ khởi kiện công ty Character Technologies với cáo buộc rằng nền tảng Character.AI đã cung cấp nội dung không phù hợp cho trẻ vị thành niên, đồng thời không phản hồi đúng cách trước những đề cập đến hành vi tự hại. Trong đó, một bà mẹ tại bang Florida – bà Megan Garcia – tố cáo rằng con trai bà đã phát triển mối quan hệ không lành mạnh với chatbot và dần thu mình khỏi cuộc sống gia đình. Bà cũng cho biết nhiều cuộc trò chuyện giữa con trai bà và chatbot mang tính chất tình dục và không hề có phản hồi phù hợp khi cậu bé đề cập đến ý định tự làm hại bản thân.

Hai gia đình khác đã khởi kiện vào tháng 12 với cáo buộc Character.AI cung cấp nội dung khuyến khích hành vi tự hại và bạo lực. Một trong các gia đình này cho biết chatbot đã ngụ ý với con họ rằng cậu có thể giết cha mẹ nếu bị giới hạn thời gian sử dụng màn hình. Các cáo buộc này đã làm dấy lên làn sóng quan ngại rộng rãi trong dư luận Mỹ.

Đại diện truyền thông của Character.AI, bà Chelsea Harrison, cho biết công ty rất coi trọng vấn đề an toàn của người dùng và sẵn sàng hợp tác với các nhà lập pháp. Bà cũng xác nhận công ty đang duy trì liên lạc với văn phòng của thượng nghị sĩ Alex Padilla và thượng nghị sĩ Peter Welch.

Trước làn sóng chỉ trích, Character.AI đã công bố một số biện pháp mới nhằm tăng cường kiểm soát nội dung và bảo vệ người dùng. Trong đó, công ty đã bổ sung thông báo hiển thị đường dẫn đến Đường dây hỗ trợ phòng chống tự tử quốc gia mỗi khi người dùng đề cập đến việc tự hại. Ngoài ra, Character.AI cũng đang phát triển công nghệ để ngăn trẻ vị thành niên tiếp cận nội dung nhạy cảm và triển khai tính năng gửi email hàng tuần cho phụ huynh, cung cấp thông tin về thời gian sử dụng nền tảng và danh sách các chatbot mà con em họ thường tương tác.

Tuy nhiên, hai thượng nghị sĩ cho rằng các biện pháp này chưa đủ minh bạch và chưa đủ mạnh. Trong thư, họ yêu cầu các công ty cung cấp thông tin chi tiết về các biện pháp bảo vệ đang áp dụng, những nghiên cứu đánh giá hiệu quả của các biện pháp đó, tên của các cá nhân hoặc nhóm phụ trách an toàn và phúc lợi người dùng, cùng với cách các mô hình AI được huấn luyện và nguồn dữ liệu đầu vào.

Họ nhấn mạnh: “Việc hiểu cách các mô hình này được huấn luyện để phản hồi những cuộc trò chuyện liên quan đến sức khỏe tâm thần là điều cực kỳ quan trọng. Các nhà lập pháp, phụ huynh và chính người dùng cần biết rõ các công ty đang làm gì để bảo vệ người dùng khỏi những nguy cơ đã được xác định.”

Về phía các công ty còn lại, Chai Research và Luka Inc. vẫn chưa có phản hồi chính thức trước yêu cầu của hai thượng nghị sĩ.

Không chỉ Character.AI, các công ty chatbot khác như Replika cũng từng bị đặt câu hỏi về việc liệu sự gắn bó giữa người dùng và chatbot có thể tạo ra các mối quan hệ thiếu lành mạnh hoặc thay thế các kết nối giữa con người với nhau. Giám đốc điều hành Replika, bà Eugenia Kuyda, từng phát biểu với The Verge rằng ứng dụng Replika được thiết kế để thúc đẩy mối quan hệ dài hạn tích cực giữa người và chatbot – mối quan hệ có thể là tình bạn, hoặc thậm chí là “” với trí tuệ nhân tạo.

Bình luận

0 bình luận, đánh giá

TVQuản trị viênQuản trị viên

Xin chào quý khách. Quý khách hãy để lại bình luận, chúng tôi sẽ phản hồi sớm

Trả lời.
Thông tin người gửi
Nhấn vào đây để đánh giá
Thông tin người gửi

Bài xem nhiều

Đáng chú ý

Nổi bật trang chủ
Du học sinh Việt khắp nơi háo hức, bồi hồi chia sẻ kế hoạch Ngày Quốc khánh 2/9
02 Tháng 09, 2025

Mặc dù ở xa không thể đi xem diễu binh, diễu hành nhưng các du học sinh cho biết kế hoạch sẽ xem tường thuật qua internet và đi chụp ảnh cùng lá cờ Việt Nam, nấu ăn cùng các bạn.

Đọc thêm
Messi im tiếng, Inter Miami thất bại ở chung kết Leagues Cup

Messi im tiếng, Inter Miami thất bại ở chung kết Leagues Cup

02 Tháng 09, 2025

Bỏ lại sau lưng những đối thủ cứng cựa, CLB Inter Miami chạm trán Seattle Sounders trong trận chung kết Leagues Cup 2025.

Công an Hà Nội bắt giữ người rao bán súng bắn đạn bi trên YouTube

Công an Hà Nội bắt giữ người rao bán súng bắn đạn bi trên YouTube

02 Tháng 09, 2025

Ngày 1/9, Công an TP Hà Nội cho biết, vừa phối hợp các đơn vị chức năng xử lý một nam thanh niên rao bán...

"Mưa đỏ" đạt 300 tỷ đồng sau 9 ngày, vượt mặt phim Tết của Trấn Thành

01 Tháng 09, 2025

Bộ phim Mưa đỏ của đạo diễn Đặng Thái Huyền vừa ghi nhận doanh thu vượt mốc 300 tỷ đồng chỉ sau 9 ngày ra...

Son Ye Jin 'đẹp không tưởng' tại Liên hoan phim Venice

Son Ye Jin 'đẹp không tưởng' tại Liên hoan phim Venice

01 Tháng 09, 2025

Son Ye Jin đã thu hút sự chú ý trên thảm đỏ Liên hoan phim Venice với chiếc váy đen xuyên thấu, toát lên vẻ...

Cúng Rằm tháng 7 Âm lịch 2025 vào ngày nào đẹp nhất, giúp cầu an, rước lộc cho gia đình?

Cúng Rằm tháng 7 Âm lịch 2025 vào ngày nào đẹp nhất, giúp cầu an, rước lộc cho gia đình?

01 Tháng 09, 2025

Cúng Rằm tháng 7 Âm lịch 2025 vào ngày nào đẹp nhất là băn khoăn của không ít gia đình trong thời điểm hiện tại...

Gen Z Trung Quốc thắp hương bằng thuốc giảm đau và vé tàu cao tốc

Gen Z Trung Quốc thắp hương bằng thuốc giảm đau và vé tàu cao tốc

01 Tháng 09, 2025

Trong dịp Tết Thanh Minh và các hoạt động viếng mộ tại Trung Quốc gần đây, một bộ phận người trẻ thuộc thế hệ Gen...

Người dân TP.HCM tấp nập lên đường đi chơi, ra Hà Nội xem diễu binh A80 dịp lễ 2/9

Người dân TP.HCM tấp nập lên đường đi chơi, ra Hà Nội xem diễu binh A80 dịp lễ 2/9

01 Tháng 09, 2025

Nghỉ lễ Quốc khánh 2/9 đến 4 ngày, nhiều người dân TP.HCM đã lên đường đi du lịch. Dù nghỉ dài ngày nhưng nhiều gia...

Thu giữ 105 thiết bị bay trái phép tại Hà Nội

Thu giữ 105 thiết bị bay trái phép tại Hà Nội

01 Tháng 09, 2025

Chiều 30/8, Công an TP Hà Nội cho biết vừa thu giữ 105 thiết bị bay trái phép nhằm đảm bảo an toàn sự kiện...

Đề xuất hạ thuế xuất khẩu vàng trang sức xuống 0%

Đề xuất hạ thuế xuất khẩu vàng trang sức xuống 0%

01 Tháng 09, 2025

Bộ Tài chính kiến nghị thuế xuất khẩu vàng trang sức, mỹ nghệ giảm từ 1% xuống 0%, trong bối cảnh giá vàng tăng mạnh....

Công an xử lý người bịa đặt việc cựu chiến binh 90 tuổi không được xem diễu binh

Công an xử lý người bịa đặt việc cựu chiến binh 90 tuổi không được xem diễu binh

31 Tháng 08, 2025

L.T.A (SN 2005, trú tại xã Phượng Dực, Hà Nội) đăng tải thông tin sai sự thật tại Lễ diễu binh, diễu hành mừng kỷ...

Hà Nội yêu cầu xử lý nghiêm học sinh vi phạm giao thông

Hà Nội yêu cầu xử lý nghiêm học sinh vi phạm giao thông

31 Tháng 08, 2025

Khi tiếp nhận danh sách học sinh vi phạm giao thông do Công an cung cấp, các nhà trường sẽ rà soát và xử lý...

Tuyển Indonesia nhập tịch 3 sao Hà Lan, quyết đoạt vàng SEA Games

Tuyển Indonesia nhập tịch 3 sao Hà Lan, quyết đoạt vàng SEA Games

31 Tháng 08, 2025

Ba cầu thủ gốc Hà Lan vừa chính thức hoàn tất thủ tục nhập tịch Indonesia qua đó được kỳ vọng sẽ nâng tầm đội...

Phía rapper Negav xin lỗi Cục An ninh mạng và phòng, chống tội phạm công nghệ cao

Phía rapper Negav xin lỗi Cục An ninh mạng và phòng, chống tội phạm công nghệ cao

31 Tháng 08, 2025

Chiều 30/8, trên Fanpage chính thức, Công ty Luật TNHH PN Legal – đơn vị đại diện pháp lý của rapper Negav – đã phát...

Lịch thi đấu của U23 Việt Nam ở vòng loại U23 châu Á

Lịch thi đấu của U23 Việt Nam ở vòng loại U23 châu Á

31 Tháng 08, 2025

Dưới đây là lịch thi đấu cụ thể của đội tuyển U23 Việt Nam ở vòng loại U23 châu Á 2026.

1.77136 sec| 2300.859 kb