“人工智能会崩溃吗？专家警告其危险和解决方案”
“为什么生成性人工智能可能自我崩溃？了解近期的研究，这些研究警告其退化以及分析可能解决方案的专家。”...作者: Patricia Alegsa
14-10-2024 14:21
生成性人工智能降级的警报
最近的研究引发了对生成性人工智能发展中一个令人不安现象的警报：回答质量的下降。
专家指出，当这些系统使用合成数据进行训练时，即由其他人工智能生成的内容，它们可能会陷入一个恶性循环，最终导致荒谬和毫无意义的回答。
随之而来的问题是：如何达到这个地步，能够采取哪些措施来预防这种情况？
RockingData的首席执行官Fredi Vivas警告说，过度使用合成数据进行训练可能会造成“回声室效应”，使AI学习到自身的不准确性，进一步降低其生成准确和多样化内容的能力。因此，如何确保AI模型的质量和实用性的问题变得愈发紧迫。
专家们一致认为，使用合成数据并不固有地是负面的，但其管理需要负责任的方式。诸如在生成的数据中实施水印等提案可以帮助识别和过滤合成内容，从而确保AI模型训练的质量。
模型的崩溃：一种退化现象
“模型崩溃”指的是一个过程，其中人工智能系统陷入使用低质量数据的训练循环，导致多样性和有效性的丧失。
根据《自然》杂志上发表的一项研究的共同作者伊利亚·舒迈洛夫，这种现象发生在人工智能开始依赖自己的输出进行自我训练时，从而延续偏见并降低实用性。从长远来看，这可能导致模型生成的内容越来越同质化和不准确，像是其自身回答的回声。
杜克大学的工程学教授艾米莉·温格用一个简单的例子来说明这个问题：如果一个人工智能被训练生成狗的图像，它将倾向于复制最常见的犬种，而忽略那些不太知名的犬种。
杜克大学的工程学教授艾米莉·温格用一个简单的例子来说明这个问题：如果一个人工智能被训练生成狗的图像，它将倾向于复制最常见的犬种，而忽略那些不太知名的犬种。
这不仅反映了数据的质量，还对训练数据集中的少数群体的代表性提出了重大风险。
另请阅读：人工智能越来越聪明，人类却越来越愚蠢。
尽管情况严重，但解决方案并不简单。Shumailov表示，目前尚不清楚如何避免模型的崩溃，尽管有证据表明，将真实数据与合成数据混合可以减轻这种影响。
另请阅读：人工智能越来越聪明，人类却越来越愚蠢。
人类干预的难度
尽管情况严重，但解决方案并不简单。Shumailov表示，目前尚不清楚如何避免模型的崩溃，尽管有证据表明，将真实数据与合成数据混合可以减轻这种影响。
然而，这也意味着训练成本的增加和获取完整数据集的难度加大。
缺乏明确的人类干预方法使开发者面临一个困境：人类真的能控制生成性AI的未来吗？
RockingData的首席执行官Fredi Vivas警告说，过度使用合成数据进行训练可能会造成“回声室效应”，使AI学习到自身的不准确性，进一步降低其生成准确和多样化内容的能力。因此，如何确保AI模型的质量和实用性的问题变得愈发紧迫。
不确定的未来：挑战与可能的解决方案
专家们一致认为，使用合成数据并不固有地是负面的，但其管理需要负责任的方式。诸如在生成的数据中实施水印等提案可以帮助识别和过滤合成内容，从而确保AI模型训练的质量。
然而，这些措施的有效性依赖于大型科技公司与较小模型开发者之间的合作。
生成AI的未来岌岌可危，科学界正在与时间赛跑，以在合成内容泡沫破裂之前找到解决方案。
生成AI的未来岌岌可危，科学界正在与时间赛跑，以在合成内容泡沫破裂之前找到解决方案。
关键在于建立稳健的机制，以确保AI模型继续保持有用和准确，从而避免许多人所担心的崩溃。
-
巴德·班尼演唱会上的激烈争吵!
“在美国一场现场音乐会上，歌手Bad Bunny演唱时发生了一场轰动的争执。” -
纳西姆·西·阿哈迈德是谁：Netflix新电影的男主角
法国演员纳西姆·西·艾哈迈德在最近在Netflix上映的电影中迷倒了观众。了解他是谁。 -
“祖父母与孙辈共度更多时间时，寿命更长。”
一项研究表明，社会互动的减少会增加死亡率。在祖父母日，探讨代际关系的好处。 -
“布鲁斯·林达尔：连环杀手及其黑暗秘密揭示”
发现布鲁斯·林达尔的黑暗故事，这位死于与最后一名受害者同一时刻的目光迷人的连环杀手。数十年后揭示的秘密和犯罪。 -
演员凯文·史派西泪流满面地谈论他的彻底破产。
皮尔斯·摩根和凯文·史派西的节目真是精彩！你刚好在买早餐咖啡的时候，突然之间，一场震撼社交网络的采访
订阅免费的每周星座
每周在您的电子邮件中收到关于爱情，家庭，工作，梦想以及更多新闻的新文章。我们不发送垃圾邮件。
星体和命理分析
-
在线梦境解释者：具有人工智能
想知道你做的梦代表什么吗？通过我们的先进在线梦境解释器，利用人工智能来理解你的梦境力量，几秒钟内就能得到答复。
-
发现驱蚊树及其多种好处
发现能够驱蚊并改善健康的树木：您花园中的天然盟友，同时也有益于呼吸系统和美容。 -
“在叙利亚，一名记者被绑架已满12年”
“自2012年8月14日在大马士革被捕以来，奥斯丁·泰斯记者在叙利亚被绑架已经12年。美国要求释放他。” -
“一个失踪的男人在30年后以同样的衣服回来了！”
发现神秘的案例：瓦西尔，一位消失了30年的罗马尼亚农民，他穿着同样的衣服归来，不记得自己奇怪的旅程。 -
你知道世界上最快乐和最悲伤的动物吗？
来了解两种独特的动物：考拉鼠，世界上最快乐的动物，以及大耳土兔，看起来总是悲伤的动物。 -
“Telegram vs WhatsApp：哪个是您业务的最佳选择？”
发现Telegram和WhatsApp之间的差异：WhatsApp在其企业版中可以轻松连接Facebook和Instagram。赶快了解吧！ -
有人用一个叫Hawk Tuah的女孩赚了数百万美元的模因币
发现在纳什维尔街头的一个滑稽回答是如何变成了HAWEKTUAH，一个在24小时内交易近3000万美元的模因币。别错过这个令人惊叹的从病毒传播到财富的转变！ -
免费在线兽医：人工智能
发现我们的在线兽医服务，配备人工智能，为您的宠物的健康、行为和营养提供快速准确的解决方案。免费咨询，立即获得答复。 -
梦见昆虫是什么意思？
发现你的昆虫梦的含义，以及它们如何反映你无意识的恐惧、忧虑和情绪--现在就读我们的文章! -
以下是根据他的星座，你如何知道他不爱你？
你认为他或她不再爱你了吗？ 你是否有不同的感觉？以下是十二星座在不再爱时给出的最明显迹象。 -
15 个简单的自我护理技巧，帮助缓解日常压力
发现15条关键的自我保健建议。 完美地面对现代生活的快节奏，改善你的日常。 -
梦见洪水是什么意思？
通过这篇关于梦见洪水是什么意思的文章，发现你的梦想背后的含义？获得建议和指导，在生活中做出更好的决定。 -
“巴伐利亚的悲剧：一名网红因在城堡拍照而去世”
23岁体操运动员娜塔莉·斯蒂霍娃在巴伐利亚的睡美人城堡附近拍摄风险照片时，坠落80米，悲惨身亡。 -
活到100岁以上？这位专家说这种美味食物会帮助你
亿万富翁布莱恩·约翰逊因其对长寿和永生的不懈追求而闻名。他在YouTube频道上透露了保持青春的其中一个秘诀。