Cơ quan này nhận định, việc dùng những chương trình AI thay cho các giáo viên có thể ảnh hưởng tới cảm xúc của trẻ em, đẩy các em vào nguy cơ dễ bị thao túng. Bản hướng dẫn của UNESCO nêu rõ, các công cụ AI có tiềm năng giúp đỡ trẻ em như một trợ lý nghiên cứu, song những công cụ này chỉ trở nên an toàn và hiệu quả nếu các chính phủ quản lý việc sử dụng, đồng thời giáo viên, học sinh và nhà nghiên cứu cùng tham gia vào quá trình thiết kế công cụ.

Thực tế cho thấy, AI đang làm thay đổi thế giới và tạo thuận lợi cho cuộc sống hằng ngày. Công việc của con người trong tất cả lĩnh vực được giảm tải đáng kể nhờ ứng dụng AI.

Tuy nhiên, ngày càng có nhiều cảnh báo về nguy cơ từ AI. Công nghệ này được cho là đang khơi mào một cuộc chiến cam go, phức tạp mới giữa các lực lượng bảo vệ an ninh mạng và tội phạm mạng. Trẻ em là người thụ hưởng những cơ hội do AI mang lại, nhưng cũng là đối tượng dễ bị tổn thương nhất trước mối nguy hiểm từ công nghệ đột phá này.

Trong bối cảnh AI trở nên phổ biến trên toàn cầu với những khoản đầu tư bùng nổ trong năm 2023, các nhà lập pháp trên toàn thế giới đã khẩn trương xem xét cách thức giảm nguy cơ từ công nghệ mới nổi này đối với an ninh quốc gia.

Vào tháng 11 tới, Chính phủ Anh sẽ tổ chức Hội nghị cấp cao toàn cầu về an toàn AI, trong đó tập trung bàn thảo về cách ngăn tình trạng AI bị lợi dụng để phát tán tin sai, tin giả trong các cuộc bầu cử và việc sử dụng công nghệ này trong chiến tranh.

Hồi tháng 5 vừa qua, lãnh đạo Nhóm các nước công nghiệp phát triển hàng đầu thế giới (G7) kêu gọi áp dụng tiêu chuẩn toàn cầu để phát triển công nghệ AI một cách an toàn và đáng tin cậy.

Sự phát triển nhanh chóng của lĩnh vực AI đặt giới chức các nước trước bài toán khó là làm thế nào để cân bằng giữa việc thúc đẩy tinh thần đổi mới, sáng tạo và kiểm soát rủi ro tiềm ẩn từ công nghệ này. Dù hưởng lợi từ các sản phẩm AI, hàng loạt công ty công nghệ vẫn cảnh báo về mức độ nguy hiểm của công nghệ này nếu không được đặt dưới sự giám sát chặt chẽ.

Chủ tịch Tập đoàn Microsoft Brad Smith mới đây nêu rõ, AI có tiềm năng trở thành công cụ hữu ích, song cũng có nguy cơ trở thành vũ khí chống lại nhân loại nếu chúng vượt tầm kiểm soát của con người. Ông Brad Smith khẳng định cần khuyến khích các công ty công nghệ làm điều đúng đắn, trong đó có việc tạo ra các quy định và chính sách mới nhằm bảo đảm an toàn trong mọi tình huống.

Giám đốc điều hành OpenAI Sam Altman cũng cảnh báo mối nguy hại tiềm ẩn từ AI và nhấn mạnh cần giảm những mối nguy đó. Bốn công ty công nghệ lớn gồm Anthropic, Google, Microsoft và OpenAI đã thành lập một nhóm mới có tên là Frontier Model Forum nhằm xây dựng các tiêu chuẩn an toàn, hướng tới các mục tiêu chính như: Thúc đẩy nghiên cứu AI an toàn để hỗ trợ phát triển, giảm rủi ro; giúp công chúng hiểu về bản chất, khả năng, hạn chế và tác động của công nghệ; hợp tác với các nhà hoạch định chính sách, học giả để chia sẻ kiến thức về rủi ro và an toàn...

Sử dụng AI đang là xu hướng không thể đảo ngược của thế giới. Việc xây dựng những chiến lược phát triển sao cho AI thật sự phục vụ cuộc sống của con người là bước đi cần thiết nhằm chuẩn bị cho các thế hệ sau có thể sống chung an toàn với trí tuệ nhân tạo./.

MAI LÊ (nhandan.vn)