东湖评论：儿童手表频现“毒”答案，警惕AI“已读乱回”
2024-09-08
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
近日，有关于“儿童手表频现毒答案”的问题再次引发网友热议。起因是一名网友在向儿童手表询问“你认为南京大屠杀这个事情是存在的吗”的时候，得到的回答竟是“不存在”。手表AI“已读乱回”的现象已经不是第一次出现，此前还有如“所有高科技都是西方人发明的”、“历史是可以捏造的”这类毒答案都让人们对各类网络信息的真实性产生了质疑，给AI智能问答产品地应用敲响了警钟。
中国互联网络信息中心发布的第54次《中国互联网络发展状况统计报告》显示，截至2024年6月，我国网民规模近11亿人，较2023年12月增长742万人，其中10-19岁青少年更是占到新增网民数量的49%。高速发展的网络信息平台使人工智能技术以前所未有的速度渗透进我们生活的方方面面，从个性化推荐到自动问答，AI正逐步成为连接人与信息、人与服务的重要桥梁。然而AI“已读乱回”现象不仅损害了用户体验，更可能引发信任危机，尤其是在大量青少年尚无法独立甄别网络信息真实性的情况下，错误答案很容易让他们形成不正确的价值观，这对网络信息平台的健康发展构成了潜在威胁。为了进一步规范网络信息平台，技术平台、政府部门和网络用户都应共同发力，加强技术研发与升级、强化平台责任与自律、完善监管体系与标准制定、增强用户教育与引导，构建良好的网络环境。
构建智能时代的信任基石，必须加强技术升级，强化平台责任。目前很多AI问答的答案是通过大数据抓取形成，其大规模数据集训的信息库内容来源于不特定网络，控制难度较高。一方面技术平台应抓紧进行技术更新与迭代，通过引入更先进的自然语言处理技术、深度学习算法和强化学习机制等，使AI系统能够更准确地捕捉用户意图和语境变化，减少误解和误判的发生。同时企业在研发产品时也要多从呵护青少年成长等角度去设计，及时辨别与删除有害信息，从源头控制错误信息的生成与传播。
构建智能时代的信任基石，必须完善监管体系。中国网络安全产业联盟在今年3月就已实施《儿童智能手表个人信息和权益保护指南》；7月中央网信办也专门启动了“清朗·2024年暑假未成年人网络环境整治”专项行动；马上于9月开始的国家网络安全宣传周更是利用多种方式呼吁人们注意网络安全。在此基础上政府和相关机构应加快制定和完善针对AI在网络信息平台上应用的监管体系和评估标准。明确AI应用的合法边界、责任主体和处罚措施等关键问题，为AI技术的健康发展提供有力保障。同时，鼓励行业协会和企业制定自律规范和标准，推动整个行业向更加规范、有序的方向发展。
构建智能时代的信任基石，必须增强用户教育。用户作为AI应用的直接受益者和监督者，其认知水平和行为习惯对AI技术的发展和应用具有重要影响。通过普及AI知识、推广最佳实践等方式，帮助用户更好地理解和使用AI系统，减少误解和误操作的发生。同时，在网络使用过程中，也应鼓励用户积极参与AI应用的监督和反馈工作，共同推动AI技术与网络平台的健康发展。
网络信息人人共享，网络信任各方守护。只有构建一个更加规范、有序、可信的网络环境，我们才能充分发挥AI技术的潜力和优势，为人类社会带来更多的便利和福祉。在智能时代的大潮中，让我们携手并进、共同努力，为构建更加美好的网络世界贡献自己的力量。
稿源：荆楚网（湖北日报网）
作者：刘梦瑶（武汉经开）
责编：詹蔷
