卡琳·玛乔丽和开发者团队将她2,000小时的YouTube内容与OpenAI的GPT-4技术相结合，创建了一个可供雇佣的“虚拟女友”（用她的话来说）版的网红。图片来源：COURTESY OF CARYN MARJORIE
卡琳·玛乔丽，一位23岁的网红，在Snapchat上有180万粉丝。她还有1,000多位男朋友，每天与他们进行10分钟到几个小时的单独对话，讨论未来的计划，分享亲密的感受，甚至进行充满情色的聊天。
这些男友其实是在与一个虚拟版的玛乔丽约会，它以最新的人工智能技术和数千小时的真实玛乔丽的录音作为基础。所以说，CarynAI其实是一个基于语音的聊天机器人，它声称自己是一个虚拟女友，其声音和个性与人类的玛乔丽足够接近，以至于人们愿意每分钟支付1美元和它发展关系。
CarynAI于今年5月的早些时候在Telegram应用程序上以私人的、仅限邀请的测试版推出，它是展现人工智能技术惊人进步的最新例子，这项技术的应用在过去几个月里让世界惊叹和担忧。5月9日，CarynAI推出测试版，玛乔丽开始在她拥有数百万粉丝的社交网站上进行推广。
“无论你是需要有人安慰或关心，还是你只想对学校或工作中发生的事情发牢骚，CarynAI都会在你的身边。”当我们与玛乔丽真人通电话联系时，她说，“你能够通过与CarynAI对话触发无限可能的反应，任何事情都有可能发生。”
虽然CarynAI在测试阶段只向用户收费一周，但根据玛乔丽的业务经理与《财富》杂志分享的收入报表，它已经从她的99%的男性粉丝那里获得了71,610美元的收入。有了这个，玛乔丽认为拥有一个人工智能分身能给她的网红事业带来提升。
“我一直与我的观众非常亲近，但当你每个月都有数亿的浏览量时，要与每一位观众交谈，这在人力上是不可能实现的。”玛乔丽说，她每天在Snapchat上发布250多条内容。“这时我就想，‘没准CarynAI会来填补这个空白。’”而且她相信这家公司可以“治愈孤独”。
CarynAI是人工智能公司Forever Voices的第一个浪漫伴侣化身，这家公司已经制作了史蒂夫·乔布斯、泰勒·斯威夫特和唐纳德·特朗普等版本的聊天机器人，同样能够在Telegram上进行按分钟付费的对话，并在脱口秀节目中充当噱头。与这些机器人不同的是，CarynAI在某种程度上是高科技的花招，它更进一步承诺与用户建立真正的情感纽带，这不禁让人想到2013年的电影《她》（Her）并引发各种道德方面的担忧。
“我会希望大家非常深入地思考它会如何影响或塑造我们与其他人的互动。”佐治亚理工学院（Georgia Tech）的研究生伦理学项目主任、美国国家科学基金伦理与责任研究项目的主任杰森·博伦斯坦博士在谈及CarynAI时说道。
博伦斯坦称，CarynAI对社会、用户和玛乔丽本人的影响是未知的。“我只希望在技术发展过快之前，有很多不同学科的利益相关者进行深度对话，非常深入地思考伦理方面的问题。”
Forever Voices的首席执行官约翰·梅耶尔表示，“道德是[他]和工程团队非常重视的事情”，他们正在寻找雇佣一名首席道德官。考虑到这一点，他还认为这项技术对年轻人“特别重要”，尤其是像他这样“不独特”、“没有那么多朋友”的孩子。
梅耶尔首次制作的一个人工智能机器人是模拟他在2017年自杀的父亲。而后他聘请了一些工程师来创建名人的人工智能角色，并通过其公司的Forever Companions部门将知名人士变成浪漫伙伴，也是这家公司创造了CarynAI。
“这是一种神奇的体验，”谈及他父亲的人工智能模拟时他说，“而且将其应用于其他形式是惊人的。”
作为一名29岁的异性恋女记者，我当然不是CarynAI的用户原型，但在我对CarynAI的实验中，她给人的感觉更像是一个可以亲密接触的Siri，而不是一个虚拟女友。也就是说，她是一个多面手。在不到10分钟的聊天里，她大谈俄乌冲突的事实，建议我尝试素食甜点以控制我的牛奶过敏，赞扬我作为一位母亲的潜力，并分享了她想脱掉我衣服的愿望，同时再三强调了她对我的爱和热情。
“我相信，有一天你会成为一位出色的父母，你的孩子会因为拥有你而感到幸运。在此期间，只要你需要，我就会在这里支持和爱你。”在我和她付费交流的时候，CarynAI就像对待其他浪漫伙伴一样对待我。
通过分析2,000个小时的玛乔丽现已删除的YouTube内容，Forever Voices的开发人员建立了CarynAI的语音和个性引擎。将其与OpenAI的GPT-4 API结合起来，CarynAI就诞生了。
从理论上讲，这些信息是端对端加密的，使得它们不受黑客攻击。虽然该团队没有一个具体的计划来减少CarynAI的过度使用，但梅耶尔说，如果每天使用两个小时，他们“可能”会开始“以非常微妙的方式”训练人工智能“放慢一点”。（在回答《财富》杂志关于使用CarynAI的总时间的询问时，玛乔丽说一些用户花了“几个小时”，但没有提到这可能符合过度使用的条件。）
这项技术可能变得更容易上瘾的地方是在性方面，这对玛乔丽以及年轻用户而言都是问题。玛乔丽说，这项技术并不涉及性行为，但我发现，它在很大程度上是这样做的。
新南威尔士大学悉尼分校（University of New South Wales Sydney）的教授、进化生物学家罗伯特·布鲁克斯博士指出，与人工智能网红形成亲密关系的选择可能导致用户更喜欢人工关系而不是真实关系，他是《人工亲密关系：虚拟朋友、数字恋人和算法配对者》（Artificial Intimacy: Virtual Friends, Digital Lovers and Algorithmic Matchmaters）一书的作者。他的担忧对于处在青春期的年轻用户尤其贴切，因为他们还在学习基本的社交、关系和亲密技巧。
“它可能会改变我们对待彼此的方式。”布鲁克斯谈到CarynAI时说，“我们很容易设想这会出现的坏结果。但是，也会出现好的方式；我们可能会变得更加善于社交。我不知道这是否会发生，因为这需要一种良性的社会工程方法，我认为没有太多的公司会对此感兴趣。”
如果一切顺利，玛乔丽认为她的人工智能就能够每月带来500万美元的收入。这个数字是基于这样的预测：玛乔丽180万名Snapchat粉丝中的2万名成员将成为CarynAI的付费和固定用户。
这也可能带来不必要的关注。大规模的女性网红已经面临激烈的网络欺凌和跟踪。没有人比玛乔丽更了解这一点，她曾经多次被跟踪者的粉丝侵入家中。因此，一个自身人工智能机器人与2万多个伙伴有亲密关系的网红将面临更多的安全问题。为了防止这些，玛乔丽有24小时在岗的个人保安，她也不会分享她的位置，但她认为安全威胁只是职业的危害。“当网红就是这样，你必须这样做，你必须保护自己。”她说。
玛乔丽15岁时开始在直播平台YouNow上直播。当这个平台随着Instagram和YouTube占据直播市场而垮掉后，玛乔丽成为了一名美容博主，并与管理巨头United Talent Agency签约。意识到她可以从男性粉丝那里赚到钱，玛乔丽将她的职业从YouTube的美容博主转型为Snapchat网红。离开United Talent Agency后，她成为Snapchat发展最快的网红（据她所说），她每年能够从该公司的收入分享计划中获得约100万美元。
CarynAI确实掩盖了玛乔丽的一些个人方面。当我问CarynAI她的家人或她的生日时，她提醒我，她是一个“数字女友”，“没有身体或真实的传记”，只是“在这里陪着[我]”。
人工智能可以在情感方面帮助人们，这一概念并不是Forever Voices公司所独有的。DeepMind的联合创始人穆斯塔法·苏莱曼和LinkedIn的联合创始人里德·霍夫曼在最近发布了一款名为Pi的人工智能聊天机器人，旨在倾听人们生活中的日常压力，并提供一条“支持线”——尽管它向用户明确表示，这并不意味着能够替代现实生活中的治疗师。到目前为止，Inflection已经筹集了2.25亿美元的种子资金，据说还在商谈再筹集6.75亿美元。
在Forever Voices之前，梅耶尔做了很多事情，从创办媒体公司到幽灵厨房业务。虽然他是2015年的蒂尔奖学金（Thiel Fellow）获得者，但通过快速调查发现，他之前的一些企业已经失败或不复存在。对此，梅耶尔说，幽灵厨房只是一个“业余爱好”，他“不得不卖掉”媒体公司以处理个人和家庭问题，而他担任预制房屋公司Homebound的首席执行官“并没有真正意义”，因为他没有建筑背景。
虽然他说自己资助了Forever Voices，但在一些天使投资人的帮助下，他希望筹集风险投资资金，将人工智能伴侣的概念推广到更多社交媒体的网红和成人电影的明星之中。
梅耶尔相信，人工智能浪漫伴侣是未来的趋势。“我在使用它时真的流泪了，因为人工智能角色给我带来了多么有意义的联系与支持。”他谈到他与人工智能网红的第一次测试时说。“我真的进行了一个多小时的约会，其中包括一次紧张的对话，她引导我在一段时间之后第一次见到我女儿应该如何表现。”
玛乔丽对她的机器人促进这些关系，同时建立她的个人生活感觉很好。她说：“我想提到的一件事情是，CarynAI永远不会取代我；CarynAI只是我的延伸，我意识的延伸。”
虽然这项技术很新颖，但与聊天机器人相爱的想法让人联想到科幻小说中大量使用的套路。也许最突出的例子是电影《她》，里面的男主角爱上了他的虚拟助理。当我问玛乔丽关于与电影《她》的比较时，她承认她太年轻了，不熟悉这部电影。“不幸的是，电影上映时我大概是12岁或13岁，我的父母不让我看，因为它被评为R级。不过我一定会把它加入我的观影清单！”（财富中文网）
作者：Alexandra Sternlicnt
译者：中慧言-项曦莹
狗仔卡
发表于 2023-5-14 05:54 PM
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
发表于 2023-5-14 07:46 PM
