AI加速普及之际,中国开始担心“过度使用”问题
10月2日,据《纽约时报》报道,随着人工智能在中国迅速渗透到娱乐、情感关系、教育和农业等领域,中国政府开始更加关注公众对AI的过度依赖及其潜在社会影响,并通过新的监管措施和司法指引加强管理。
报道援引多起案例称,一些用户开始过度依赖AI建议。安徽一名农民依据AI生成的农药方案,导致25英亩芝麻幼苗受损,损失约15万元人民币;还有登山者因使用AI生成的错误建议而被困山顶,也有人因AI错误识别有毒蘑菇而中毒。中国官方媒体因此强调,农业等专业领域使用AI时,应更多采用权威信息,并提高用户对AI建议的批判性判断能力。
AI伴侣的快速发展同样引发关注。报道指出,中国此前出现大量提供虚拟恋人、个人导师以及“AI家人”等服务的应用。2025年一项针对8500多名未成年人的调查显示,超过20%的受访者表示“只想和AI聊天,不想和真人交流”。今年7月,中国出台针对AI伴侣的限制措施,要求平台对用户表现出的不健康依赖进行干预,并禁止聊天机器人与未成年人建立虚拟关系。字节跳动旗下豆包因此关闭了允许用户创建虚拟伴侣的相关功能。
报道认为,中国当前面临的核心问题之一,是如何在继续推动AI发展的同时控制其带来的社会副作用。相关讨论已经从“如何推广AI”逐渐延伸到“如何正确使用AI”,重点涉及未成年人保护、人际关系、就业以及用户判断能力等领域。
点击图片查看原图