开放AI的全新GPT商店第二天就闹出了乱子，用户们纷纷打破规则。这家店专门提供定制版的ChatGPT，也就是所谓的生成预训练变换器（GPTs），它们本应用于特定目的——有些情况下甚至根本不应该被创造。在GPT商店里搜“女朋友”，就能在结果栏里看到至少八个“女朋友”AI聊天机器人，包括“韩国女友”、“虚拟甜心”、“你的女友斯嘉丽”和“你的AI女友，Tsu✨”。
AI聊天机器人违反了OpenAI的使用政策规则
这些AI女友机器人违反了OpenAI的使用政策。这项政策是在GPT商店昨天（1月10日）开业时更新的。该公司禁止专门用于培养浪漫伴侣关系或执行受监管活动的GPTs。目前还不清楚“受监管活动”具体指什么。Quartz已经联系了OpenAI寻求评论，如果该公司回应，本文将会更新。值得注意的是，该公司正试图在其OpenAI商店可能出现的冲突问题上抢先一步。关系聊天机器人确实是受欢迎的应用程序。据data.ai——一家移动应用分析公司——与Quartz分享的数据显示，在美国，2023年通过苹果或谷歌Play商店下载的30个AI聊天机器人应用中，有七个与AI朋友、女友或伴侣相关。这些应用的激增正值美国面临孤独和隔离的流行。令人担忧的研究显示，有一半美国成年人报告经历过孤独，美国卫生部长也呼吁需要加强社交联系。如果人们与其他人类隔离，AI聊天机器人或许可以成为解决方案的一部分，或者它们可能只是利用人类苦难来赚钱。
该公司表示，它使用自动系统、人工审查和用户报告的组合来发现和评估可能违反其政策的GPTs，这可能会导致“警告、共享限制或无法在GPT商店中上架或实现盈利”。
OpenAI的GPT商店就像在狂野西部运营
OpenAI的商店规则在开业第二天就被打破，这显示出管理GPTs可能有多么困难。在过去的一年里，科技公司纷纷以“测试版”模式发布AI工具，并明确指出他们的产品可能会出错。例如，在ChatGPT聊天屏幕上，OpenAI在底部有一行文字：“ChatGPT可能会犯错误。考虑核对重要信息。”值得注意的是，科技公司也迅速调查了有关他们AI的报告问题，部分原因是，随着他们争夺这一领域的主导地位，做对这一点变得尤为重要。