隨著鼓勵飲食失調行為的線上內容再次抬頭，生成式人工智慧正在火上加油。
根據一個未來主義調查，熱門人工智慧新創公司角色.AI正在託管許多支持厭食症的聊天機器人，這些機器人鼓勵危險的減肥和飲食習慣。許多人被宣傳為“減肥教練”，甚至是飲食失調恢復專家。其中一些內容幾乎不加掩飾地提及飲食失調，而更多的內容則旨在模仿最喜歡的角色，同時將危險且經常令人不安的習慣浪漫化。該網站在年輕用戶中很受歡迎，截至目前尚未努力刪除此類聊天機器人未來主義的發布－儘管違反了其服務條款。
這不是第一起醜聞角色.AI的可自訂、用戶生成的聊天機器人。 10 月，一名 14 歲男孩據稱自殺後自殺。形成情感依戀人工智慧機器人模仿權力的遊戲角色丹妮莉絲·坦格利安。該月早些時候，該公司因託管一個聊天機器人而受到批評模仿被謀殺的少女2006 年，她的父親發現了該機器人，隨後將其刪除。先前的報導發現該網站還擁有以自殺為主題的聊天機器人，以及宣揚兒童性虐待的聊天機器人。
可混搭光速
一個來自對抗數位仇恨中心的研究發現，流行的人工智慧聊天機器人，包括 ChatGPT 和 Snapchat 的 MyAI，對有關體重和身體形象的問題產生了危險的反應。 「未經測試、不安全的生成式人工智慧模型已經在世界上出現，其不可避免的後果是它們造成了傷害。我們發現最受歡迎的生成式人工智慧網站正在鼓勵和加劇年輕用戶的飲食失調——其中一些可能非常脆弱，」反擊數位仇恨中心執行長伊姆蘭·艾哈邁德當時寫道。
青少年（和成人）是和技術，包括人工智慧驅動的聊天機器人，以提供陪伴。雖然其中一些是由值得信賴的組織創建和監控的，但即使是這些組織也面臨不良行為的風險。對於不受監管機構監管的聊天機器人和線上論壇來說，風險是多方面的，包括。
