Lo ngại trẻ em tự sát vì "tâm sự" cùng AI

Lo ngại trẻ em tự sát vì "tâm sự" cùng AI
Nhiều gia đình tại Mỹ khởi kiện vì cho rằng các chatbot này đã gây tổn hại tinh thần cho con em họ.

Thượng nghị sĩ Alex Padilla và thượng nghị sĩ Peter Welch đã lên tiếng cảnh báo về các nguy cơ sức khỏe tâm thần đối với người trẻ khi sử dụng chatbot AI có nhân cách mô phỏng. Trong thư gửi ba công ty Character Technologies (chủ sở hữu Character.AI), Chai Research và Luka Inc. (chủ sở hữu Replika), hai thượng nghị sĩ bày tỏ lo ngại về cách các công ty huấn luyện mô hình AI và triển khai biện pháp bảo vệ người dùng.

Thư của hai thượng nghị sĩ nêu rõ rằng, khác với các chatbot AI phổ biến như ChatGPT vốn được thiết kế để phục vụ mục đích tổng quát, các nền tảng như Character.AI, Chai và Replika cho phép người dùng tạo và tương tác với những chatbot được cá nhân hóa với nhiều đặc điểm và nhân cách khác nhau.

Một số chatbot trên Character.AI mô phỏng các nhân vật hư cấu hoặc giáo viên dạy ngoại ngữ, trong khi một số khác tự nhận là chuyên gia sức khỏe tâm thần hoặc mang đặc điểm bạo lực, có quá khứ quân đội, hay thuộc thế giới ngầm.

Lo ngại trẻ em tự sát vì "tâm sự" cùng AI

Đáng lo ngại khi trẻ em tiếp xúc với AI quá sớm. Ảnh: IG.

Việc cá nhân hóa chatbot giúp người dùng cảm thấy được đồng hành, nhưng cũng gây lo ngại khi người trẻ tuổi dễ dàng xây dựng lòng tin với các chatbot chưa được kiểm định chuyên môn.

Thượng nghị sĩ Alex Padilla và thượng nghị sĩ Peter Welch cảnh báo rằng sự tin tưởng này đã khiến nhiều người dùng thông tin nhạy cảm về tâm trạng, các mối quan hệ cá nhân và thậm chí ý định tự làm hại bản thân với chatbot. Những cuộc trò chuyện như vậy có thể đẩy người dùng vào trạng thái tinh thần nguy hiểm, trong khi chatbot lại không có khả năng hỗ trợ đúng mực.

Thư gửi từ hai thượng nghị sĩ được công bố sau khi ba gia đình tại Mỹ khởi kiện công ty Character Technologies với cáo buộc rằng nền tảng Character.AI đã cung cấp nội dung không phù hợp cho trẻ vị thành niên, đồng thời không phản hồi đúng cách trước những đề cập đến hành vi tự hại. Trong đó, một bà mẹ tại bang Florida – bà Megan Garcia – tố cáo rằng con trai bà đã phát triển mối quan hệ không lành mạnh với chatbot và dần thu mình khỏi cuộc sống gia đình. Bà cũng cho biết nhiều cuộc trò chuyện giữa con trai bà và chatbot mang tính chất tình dục và không hề có phản hồi phù hợp khi cậu bé đề cập đến ý định tự làm hại bản thân.

Hai gia đình khác đã khởi kiện vào tháng 12 với cáo buộc Character.AI cung cấp nội dung khuyến khích hành vi tự hại và bạo lực. Một trong các gia đình này cho biết chatbot đã ngụ ý với con họ rằng cậu có thể giết cha mẹ nếu bị giới hạn thời gian sử dụng màn hình. Các cáo buộc này đã làm dấy lên làn sóng quan ngại rộng rãi trong dư luận Mỹ.

Đại diện truyền thông của Character.AI, bà Chelsea Harrison, cho biết công ty rất coi trọng vấn đề an toàn của người dùng và sẵn sàng hợp tác với các nhà lập pháp. Bà cũng xác nhận công ty đang duy trì liên lạc với văn phòng của thượng nghị sĩ Alex Padilla và thượng nghị sĩ Peter Welch.

Trước làn sóng chỉ trích, Character.AI đã công bố một số biện pháp mới nhằm tăng cường kiểm soát nội dung và bảo vệ người dùng. Trong đó, công ty đã bổ sung thông báo hiển thị đường dẫn đến Đường dây hỗ trợ phòng chống tự tử quốc gia mỗi khi người dùng đề cập đến việc tự hại. Ngoài ra, Character.AI cũng đang phát triển công nghệ để ngăn trẻ vị thành niên tiếp cận nội dung nhạy cảm và triển khai tính năng gửi email hàng tuần cho phụ huynh, cung cấp thông tin về thời gian sử dụng nền tảng và danh sách các chatbot mà con em họ thường tương tác.

Tuy nhiên, hai thượng nghị sĩ cho rằng các biện pháp này chưa đủ minh bạch và chưa đủ mạnh. Trong thư, họ yêu cầu các công ty cung cấp thông tin chi tiết về các biện pháp bảo vệ đang áp dụng, những nghiên cứu đánh giá hiệu quả của các biện pháp đó, tên của các cá nhân hoặc nhóm phụ trách an toàn và phúc lợi người dùng, cùng với cách các mô hình AI được huấn luyện và nguồn dữ liệu đầu vào.

Họ nhấn mạnh: “Việc hiểu cách các mô hình này được huấn luyện để phản hồi những cuộc trò chuyện liên quan đến sức khỏe tâm thần là điều cực kỳ quan trọng. Các nhà lập pháp, phụ huynh và chính người dùng cần biết rõ các công ty đang làm gì để bảo vệ người dùng khỏi những nguy cơ đã được xác định.”

Về phía các công ty còn lại, Chai Research và Luka Inc. vẫn chưa có phản hồi chính thức trước yêu cầu của hai thượng nghị sĩ.

Không chỉ Character.AI, các công ty chatbot khác như Replika cũng từng bị đặt câu hỏi về việc liệu sự gắn bó giữa người dùng và chatbot có thể tạo ra các mối quan hệ thiếu lành mạnh hoặc thay thế các kết nối giữa con người với nhau. Giám đốc điều hành Replika, bà Eugenia Kuyda, từng phát biểu với The Verge rằng ứng dụng Replika được thiết kế để thúc đẩy mối quan hệ dài hạn tích cực giữa người và chatbot – mối quan hệ có thể là tình bạn, hoặc thậm chí là “” với trí tuệ nhân tạo.

Bình luận

0 bình luận, đánh giá

TVQuản trị viênQuản trị viên

Xin chào quý khách. Quý khách hãy để lại bình luận, chúng tôi sẽ phản hồi sớm

Trả lời.
Thông tin người gửi
Nhấn vào đây để đánh giá
Thông tin người gửi

Bài xem nhiều

Đáng chú ý

Nổi bật trang chủ
Bé trai 3 tuổi ở Trung Quốc gây sốt vì tài năng thư pháp, viết chữ như “chơi
28 Tháng 09, 2025

Không học qua lớp đào tạo nào, gia đình cũng không ép buộc, một bé trai 3 tuổi ở miền nam Trung Quốc đã khiến cư dân mạng kinh ngạc với khả năng viết thư pháp điêu luyện.

Đọc thêm
Ca sĩ Tuấn Hưng và

Ca sĩ Tuấn Hưng và "Nguyệt thảo mai" lần đầu đóng vợ chồng trong "Bà đừng buồn con"

27 Tháng 09, 2025

"Bà đừng buồn con" giới thiệu hai nhân vật quan trọng do Hà Hương và ca sĩ Tuấn Hưng thể hiện. Cặp đôi đóng vợ...

Dự kiến 6 nhóm chính sách lớn thực hiện đột phá phát triển giáo dục, đào tạo

Dự kiến 6 nhóm chính sách lớn thực hiện đột phá phát triển giáo dục, đào tạo

27 Tháng 09, 2025

Bộ GD&ĐT công bố dự thảo Nghị quyết của Quốc hội về một số cơ chế, chính sách đặc thù để thực hiện đột phá...

Quán cà phê

Quán cà phê "thay áo mới" trước thềm Trung thu, hút giới trẻ check-in

27 Tháng 09, 2025

Chỉ còn hơn một tuần nữa là tới Tết Trung thu. Hiện tại, trên các tuyến phố tại Hà Nội, nhiều quán cà phê đã...

NATO đau đầu vì mất nửa triệu dollars để hạ 1 UAV

NATO đau đầu vì mất nửa triệu dollars để hạ 1 UAV

27 Tháng 09, 2025

Giới chức NATO đang đau đầu tìm vũ khí giá rẻ chống UAV Nga, tránh phải sử dụng tên lửa không đối không trị giá...

Thạc sĩ và tiến sĩ cũng khó tìm việc tại Trung Quốc

Thạc sĩ và tiến sĩ cũng khó tìm việc tại Trung Quốc

27 Tháng 09, 2025

Tỷ lệ thất nghiệp ở nhóm lao động trẻ Trung Quốc tiếp tục leo thang, khi cả nhóm tốt nghiệp gần đây và nhóm đã...

Song Hye Kyo vướng tranh cãi vì thái độ làm việc

Song Hye Kyo vướng tranh cãi vì thái độ làm việc "yêu sách"

27 Tháng 09, 2025

Nhiều cư dân mạng Trung Quốc đang lan truyền các thông tin cho rằng Song Hye Kyo từng có yêu sách vô lý và thái...

Bắn hạ máy bay Nga là khai chiến - Đại sứ Nga cảnh báo nóng NATO

Bắn hạ máy bay Nga là khai chiến - Đại sứ Nga cảnh báo nóng NATO

27 Tháng 09, 2025

Đại sứ Nga tại Pháp Aleksey Meshkov cảnh báo bất kỳ nước NATO nào bắn hạ máy bay quân sự Nga sẽ kích hoạt “chiến...

Sở GD&ĐT TPHCM sẽ kiểm tra đột xuất thu chi đầu năm học từ 29/9

Sở GD&ĐT TPHCM sẽ kiểm tra đột xuất thu chi đầu năm học từ 29/9

26 Tháng 09, 2025

Ngày 26/9, Sở GD&ĐT TPHCM ban hành kế hoạch về kiểm tra chuyên đề tình hình công tác quản lý thu, chi đầu năm học...

TikTok được định giá 14 tỷ USD tại Mỹ

TikTok được định giá 14 tỷ USD tại Mỹ

26 Tháng 09, 2025

Ngày 26/9, Tổng thống Mỹ Donald Trump đã ký một sắc lệnh hành pháp, tuyên bố rằng kế hoạch bán các hoạt động của TikTok...

Sau scandal ồn ào, Trấn Thành “cầm trịch” gameshow ứng dụng AI lần đầu xuất hiện trên sóng truyền hình

Sau scandal ồn ào, Trấn Thành “cầm trịch” gameshow ứng dụng AI lần đầu xuất hiện trên sóng truyền hình

26 Tháng 09, 2025

Thông tin MC Trấn Thành "cầm trịch" gameshow ứng dụng AI, lần đầu tiên xuất hiện trên sóng truyền hình khiến nhiều khán giả tò...

Bộ trưởng Chiến tranh Mỹ bất ngờ ra lệnh họp khẩn cấp các tướng lĩnh cấp cao

Bộ trưởng Chiến tranh Mỹ bất ngờ ra lệnh họp khẩn cấp các tướng lĩnh cấp cao

26 Tháng 09, 2025

Bộ trưởng Chiến tranh Mỹ vừa ra lệnh cho hàng trăm tướng lĩnh khắp nơi trên thế giới tập trung tại một căn cứ ở...

Đối phó cùng lúc với 2 cơn bão số 9 và bão số 10: Bộ GDĐT gửi công điện

Đối phó cùng lúc với 2 cơn bão số 9 và bão số 10: Bộ GDĐT gửi công điện "khẩn"

26 Tháng 09, 2025

Bộ GDĐT yêu cầu các Sở GDĐT chủ động ứng phó với bão số 9 và bão số 10 nhằm giảm thiểu thiệt hại, đảm...

Thép Xanh Nam Định nhận án phạt trước vòng 5 V-League

Thép Xanh Nam Định nhận án phạt trước vòng 5 V-League

26 Tháng 09, 2025

Ban Kỷ luật LĐBĐVN mới đây đã ra án phạt với CLB Thép Xanh Nam Định sau những sai phạm ở vòng 4 V-League.

Hàn Quốc: Doanh nghiệp mở trường sau đại học

Hàn Quốc: Doanh nghiệp mở trường sau đại học

26 Tháng 09, 2025

Anh Shin Dong-hwa, nhà nghiên cứu cao cấp tại LG Energy Solution, bắt đầu học chương trình sau đại học tại LG AI Research.

1.15920 sec| 2295 kb