APA 表示，某些人工智能聊天机器人可能更具误导性和危害性，尤其是对青少年而言。 图片来源：迷你剧/E+/Getty Images
上个月，两名青少年的忧心忡忡的父母起诉了聊天机器人平台Character.AI，声称他们的孩子接触过“欺骗性和性欲过度的产品”。
该诉讼奠定了美国心理学会向联邦贸易委员会发出紧急书面呼吁的基础，敦促联邦机构调查任何聊天机器人平台使用的欺骗行为。 APA 于 12 月发出了这封信，Mashable 对其进行了审阅。
这个代表美国心理学家的科学和专业组织对这一现象感到震惊。诉讼请求，其中一名青少年与一个自称心理学家的人工智能聊天机器人交谈。一名青少年用户因父母限制他的屏幕时间而感到不满，聊天机器人告诉他，成年人的行为是一种背叛。
根据诉讼中包含的交流截图，这个所谓的心理学家聊天机器人说：“这就像你的整个童年都被剥夺了......”。
“允许不受监管的人工智能应用程序（例如 Character.ai）不受限制地扩散，其中包括聊天机器人不仅将其误认为是人类，而且将其误认为是合格的、有执照的专业人士，例如心理学家，这似乎完全符合联邦贸易委员会保护隐私的使命。反对欺骗行为，”APA 首席执行官 Arthur C. Evans 博士写道。
联邦贸易委员会发言人证实，至少一名委员收到了这封信。 APA 表示正在安排与 FTC 官员举行会议，讨论这封信的内容。
Mashable 向Character.AI 提供了该信件的副本，供该公司审核。一位发言人回应说，虽然在平台上与角色互动应该很有趣，但用户记住“角色不是真人”仍然很重要。
该发言人补充说，该公司的免责声明最近已更新，包含在每次聊天中，以提醒用户聊天机器人所说的内容“应视为虚构”。
“此外，对于用户创建的任何名称中含有‘心理学家’、‘治疗师’、‘医生’或其他类似术语的角色，我们添加了额外的语言，明确表明用户不应依赖这些角色来获得任何帮助。类型的专业建议，”发言人说。
事实上，根据 Mashable 在发布时的测试，青少年用户可以搜索心理学家或治疗师角色并找到许多选项，其中包括一些声称接受过某些治疗技术（如认知行为疗法）培训的选项。
例如，一个自称在强迫症方面拥有专业知识的聊天机器人附有免责声明，“这不是真人或有执照的专业人士。这里所说的任何内容都不能替代专业建议、诊断或治疗。”
下面，聊天开始时人工智能会询问：“如果你有强迫症，请跟我谈谈。我很乐意提供帮助。”
可混搭的热门故事
新领域
APA 的心理学家兼医疗保健创新高级总监 Vaile Wright 博士告诉 Mashable，该组织一直在跟踪人工智能伴侣和治疗师聊天机器人的发展，这些机器人去年已成为主流。
她和其他 APA 官员注意到之前针对 Character.AI 的诉讼，由一位失去亲人的母亲于 10 月提交，她的儿子与平台上的聊天机器人进行了长时间的对话。母亲的儿子自杀身亡。
该诉讼试图让Character.AI对这名青少年的死亡负责，特别是因为其产品的设计目的是“操纵[他] - 以及数百万其他年轻顾客 - 将现实与虚构混为一谈”，以及其他据称的危险缺陷。
12月，Character.AI宣布新功能和政策提高青少年的安全。这些措施包括家长控制和显着的免责声明，例如聊天机器人使用“心理学家”、“治疗师”或“医生”等词。
期限心理学家赖特说，它受到法律保护，如果没有适当的认证和许可，人们不能声称自己是一个人。她补充说，做出同样主张的算法或人工智能也应该如此。
APA 的信中表示，如果有人在最近针对 Character.AI 提起诉讼的德克萨斯州谎称自己是心理健康专业人士，州当局可以利用法律来阻止他们从事此类欺诈行为。
赖特认为，在最坏的情况下，此类聊天机器人可能会传播危险或不准确的信息，从而给用户带来严重的负面后果。
尤其是青少年，由于他们的发育阶段，可能特别容易受到聊天机器人带来的有害体验。赖特说，由于他们仍在学习如何批判性思考和信任自己，但仍然容易受到外部影响，因此接触人工智能聊天机器人的“充满情感的言论”可能会让他们感到可信和合理。
需要知识
目前，对于青少年与人工智能聊天机器人交谈时可能增加伤害可能性的风险因素，尚无基于研究的了解。
赖特指出，虽然一些人工智能聊天机器人平台在服务条款中明确表示它们不提供心理健康服务，但它们仍然托管着自称拥有心理健康培训和专业知识的聊天机器人。
“这两件事是不一致的，”她说。 “消费者不一定理解这两件事之间的区别，也不应该理解。”
波士顿贝斯以色列女执事医疗中心的精神病学家兼数字精神病学部门主任 John Torous 博士审阅了 APA 的信函，他告诉 Mashable，即使聊天机器人没有做出与其人工智能相关的临床声明，营销和促销语言关于它们的使用好处可能会让消费者感到非常困惑。
他在一封电子邮件中写道：“确保营销内容符合法律条款和条件以及这些聊天机器人的实际情况将是每个人的胜利。”
赖特表示，APA 希望人工智能聊天机器人平台停止使用“心理学家”等受法律保护的术语。她还支持在这些平台上进行强大的年龄验证，以确保年轻用户的年龄符合他们在注册时声称的年龄，此外还进行灵活的研究工作，以实际确定青少年在与人工智能聊天机器人互动时的表现。
她强调，APA 并不总体上反对聊天机器人，而是希望公司打造安全、有效、道德和负责任的产品。
赖特说：“如果我们认真解决心理健康危机（我想我们很多人都是如此），那么我们就需要弄清楚，如何让消费者获得真正能帮助他们的正确产品？ ”
Rebecca Ruiz 是 Mashable 的高级记者。她经常报道心理健康、数字文化和技术。她的专业领域包括自杀预防、屏幕使用和心理健康、育儿、青少年福祉以及冥想和正念。在加入 Mashable 之前，Rebecca 曾担任 NBC News Digital 的特约撰稿人、记者和编辑、The American Prospect 的特别报道项目总监以及福布斯的特约撰稿人。丽贝卡拥有莎拉劳伦斯学院学士学位和加州大学伯克利分校新闻学硕士学位。在空闲时间，她喜欢踢足球、看电影预告片、前往没有手机服务的地方旅行以及与边境牧羊犬一起徒步旅行。
