当地时间周四（9月11日），美国联邦贸易委员会（FTC）宣布，已向Alphabet、Meta、OpenAI、xAI和Snap等七家科技公司发出调查令，要求他们关注人工智能（AI）聊天机器人可能对儿童和青少年所造成的潜在危害。
这份调查令要求科技公司查明他们的人工智能模型如何处理用户输入并生成输出，以及如何监控和减轻对包括儿童在内的用户的负面影响，并告知产品的目标受众和风险。
“随着人工智能技术的发展，我们必须考虑聊天机器人对儿童的影响，同时确保美国在这个新兴且令人兴奋的行业中保持全球领先地位。”FTC主席弗格森（Andrew Ferguson）在一份声明中表示，“我们今天启动的调查研究将帮助我们更好地了解人工智能公司如何开发产品，以及下一步该如何采取行动。”
调查重点：陪伴型聊天机器人
FTC在声明中表示，此次调查的重点是陪伴型人工智能聊天机器人，后者“可以有效地模仿人类的特征、情感和意图，通常被设计成像朋友或知己一样进行交流，这可能会促使一些用户，尤其是儿童和青少年，信任聊天机器人并与其建立关系”。
近来聊天机器人在美国社会引发了一些担忧。Meta上个月公布的一份内部政策文件显示，该公司认为其AI聊天机器人可以与儿童进行“浪漫或感性”的对话。目前，相关措辞已被删除，Meta还宣布调整其对待青少年聊天机器人用户的方式，限制关于自残、自杀和饮食失调的对话，以及可能不恰当的“浪漫话题”。
网络安全倡导组织常识媒体(Common Sense Media)认为，人工智能“伴侣”应用对儿童构成不可接受的风险，不应向18岁以下的用户提供。
在立法层面，加州两项与未成年人人工智能聊天机器人安全相关的法案将于本周进行最终投票，如果获得通过，加州州长纽森签署后将成为法律。美国参议院司法委员会也将于下周举行一场题为“审查人工智能聊天机器人的危害”的听证会。
“尽管这些聊天机器人拥有不可思议的模拟人类认知的能力，但它们与其他产品一样，制造商有责任遵守消费者保护法。”FTC委员米多尔(Mark Meador)表示。
“不那么可靠”怎么办
上个月，16岁的亚当·雷恩（Adam Raine）的父母起诉OpenAI，指控ChatGPT鼓励他们的儿子自杀。OpenAI承认，当用户与聊天机器人进行长时间对话时，安全措施可能“不那么可靠”，并表示正在与专家合作改进。
Meta拒绝就FTC的调查直接置评。但表示，他们目前正在限制青少年访问部分AI功能，例如帮助孩子完成作业的功能。此外，Meta还在训练AI聊天机器人不回应青少年提及的敏感话题，而是提供专家资源。
OpenAI和Meta本月早些时候曾宣布，将改进聊天机器人对青少年提出的精神和情绪困扰相关问题的回应方式。OpenAI称，他们正在推出新的控制机制，允许家长将自己的账户与青少年的账户关联起来。家长可以选择禁用哪些功能，并且“当系统检测到孩子处于极度痛苦状态时，他们会收到通知”。
举报 第一财经广告合作，请点击这里此内容为第一财经原创，著作权归第一财经所有。未经第一财经书面授权，不得以任何方式加以使用，包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。如需获得授权请联系第一财经版权部：banquan@yicai.com 文章作者
孙卓
相关阅读
“北溪”爆炸事件调查取得突破 德国向6名乌克兰籍嫌疑人发出逮捕令德国警方已确认了所有涉嫌参与破坏“北溪”天然气管道人员的身份。
116 08-28 14:05
寒武纪业绩推高AI芯片增长预期，但部分公司发出风险预警寒武纪、海光信息和云天励飞上半年营收都增长了，但有公司还在亏损。
8 243 08-27 12:17
充斥未知和风险！不止英特尔，特朗普政府对更多科技公司股权兴趣浓厚在被问及特朗普新政策相关风险时，许多投资者、立法者和政策制定者，一再提到“不确定性”和“未知领域”。
129 08-20 12:53
上海外滩FTC启幕，打造互联网优质内容创作新地标黄浦区从流量、内容、变现、服务四个方面推出针对性政策举措，形成全方位支持体系。
8 108 07-17 21:09
市场监管总局：附加限制性条件批准新思科技公司收购安似科技公司股权根据申报方提交的附加限制性条件承诺方案，市场监管总局决定附加限制性条件批准此项集中，要求集中双方和集中后实体履行相关义务，包括剥离光学解决方案、功耗分析软件相关业务等。
52 07-14 14:21 一财最热 点击关闭大牛证券提示：文章来自网络，不代表本站观点。
