本文来自微信公众号:APPSO (ID:appsolution),作者:黄智健,原文标题:《Google 下一款 ChatGPT 竞品曝光:投入或超GPT-4,AlphaGo 成秘密武器》,题图来自:《变形金刚2》
(资料图片)
ChatGPT 的大火,可把 Google 急坏了。
要知道 ChatGPT 中的“T”表示的是 Transformer 模型,出自于 Google 研究团队,而现在这一技术在竞争对手 OpenAI 的手上发光发热,这令 Google 颇感尴尬。
为应对这一挑战,Google 迅速推出了自己的聊天机器人Bard,并且开始整合 AI 资源,合并了两大研究团队 Google Brain 和 DeepMind,创建了 Google DeepMind,由 DeepMind 原 CEO Demis Hassabis 领导。
Hassabis 表示 Google 有 80% 或 90% 的 AI 创新都出自于这两个团队。
在 上个月的 Google I/O 大会上,Google CEO Sundar Pichai 官宣了一个重磅消息:Google DeepMind 正在研究一个全新的大语言模型,代号为 Gemini(双子座),这也是这两只团队合并后首次合作的项目。
近日,Demis Hassabis 在接受 Wired 的采访了透露了更多与 Gemini 有关的消息,这可能是 Google 向 OpenAI 反击的关键战役。
正在追赶的 Google
此前大家猜测,Gemini 和 GPT 模型类似,都是有着出色文本处理能力的大语言模型,两者的差异可能会体现在训练参数的规模上,模型规模越大,处理能力可能就会越强。
然而 Hassabis 表示,Gemini 有很多不太一样的地方,例如 Google DeepMind 团队正在将 AlphaGo 中使用的技术结合语言模型,以赋予更强的规划或解决问题能力等等。这可能会成为 Gemini 的“杀手锏”技能。
抽象点说,你可以将 Gemini 看作是将 AlphaGo 型系统的一些优点与大模型的语言能力相结合。我们还有一些新的创新,这将非常有趣。
2016 年,横空出世的 AlphaGo 击败了围棋冠军李世石,让全世界第一次真切地感受到 AI 技术的震撼。
AlphaGo 的技术基于一种名为“强化学习”的训练方法,通过反复试验和反馈来学习如何解决问题,它还使用了一种称为树搜索的方法,探索并记住可能的走法。
Google DeepMind 团队希望将这些技术应用到语言模型中,使它们能够在互联网和计算机上执行更多任务。
DeepMind 在机器学习和强化学习有着丰富的经验,开展过多项重要的研究,包括:
AlphaGo:第一个击败人类世界冠军的围棋程序。AlphaGo的成功标志着AI在处理复杂策略游戏方面的重大突破。
AlphaZero:AlphaZero 是一个通用的强化学习算法,可以在没有任何先验知识的情况下,仅通过自我对弈学习如何玩棋类游戏。AlphaZero已经证明了其在国际象棋、将棋和围棋等游戏中的超强实力。
AlphaFold:AlphaFold 是一个可以预测蛋白质结构的深度学习系统。这个系统的准确性在生物学领域引起了广泛关注,因为它可以帮助科学家更好地理解疾病,并加速药物的发现和开发。
WaveNet:WaveNet 是一个深度生成模型,用于生成自然 sounding 的语音。它已经被广泛应用于语音合成和音乐生成等领域。
MuZero:MuZero 是一个无模型强化学习算法,它可以在没有环境模型的情况下,通过预测其动作的结果来学习策略和价值函数。MuZero 已经在多个任务和游戏中表现出了超强的性能。
DeepMind 在强化学习方面的深厚经验,可能会为 Gemini 带来超越 ChatGPT 的新能力。
Hassabis 表示,Gemini 模型仍在开发中,这个过程将需要几个月的时间,可能花费数千万或者上亿美元。作为对比 OpenAI CEO Sam Altman 在四月份表示,创建 GPT-4 的成本超过了 1 亿美元。
Gemini 不仅仅是对 ChatGPT 做出的防御之举,还将是 Google 未来部署搜索等产品的技术基础。
Hassabis 表示,AI 的非凡潜在益处,例如健康或气候等领域的科学发展,人类必须不停地发展这项技术。如果运用恰当的话,AI 将是对人类最有益的技术。
“我们必须大胆且勇敢地去追求那些东西。”他说。
Google 不为人知的“护城河”
在 AI 研究方面,Google 还有一张盖住的王牌——全球最大的视频网站 YouTube。
视频是个非常多元的内容载体,我们可以把它分解成图像、音频和文字记录。Google 拥有 YouTube,也就意味着拥有最丰富的图像、音频训练内容。
根据 The information 报道,有内部人士透露 OpenAI 早已经悄悄地使用 YouTube 上的内容来训练其人工智能模型。
Google 自然不会忽视这座“金山”,The Information 继续爆料称 Google 的研究团队也在利用 YouTube 训练 Gemini 模型,并且 Google 能够比竞争对手们获得更完整的内容数据。
对于大语言模型来说,高质量的训练数据比黄金还要宝贵。
由于 YouTube 很多都是真实的对话,Google 可以利用 YouTube 视频的音频文本或描述作为训练 Gemini 的另一个文本来源,从而提高它的语言理解能力,并产生更加真实的对话反馈。
利用 YouTube 的视频内容,Google 还可以开发出类似于 Runway 用文本生成视频的多模态功能,用户只需要输入他们的描述就能生成出一条精美的视频。
除了制作视频,多模态模型还可以有更多的可能性,例如可以根据 YouTube 视频直接总结出球赛的亮点,或者根据视频帮助机械师诊断汽车修理问题。
OpenAI 在发布 GPT-4 模型时,曾展示过从草图生成网站代码的功能,这也是多模态模型的一个重要应用领域。
前 YouTube 高管 Shishir Mehrotra 表示,对 Google 来说,YouTube 视频简直就是一座数据金矿。
这不仅仅是因为视频的存在,而是因为视频存在于一个生态系统中。
YouTube 上的视频向 AI 展现了人类是如何进行对话,这和书面化的文本有很大的不同,可以帮助模型更好的理解人类对话的逻辑,并生成更恰当的反馈。
不仅如此,Google 还收集大量的用户互动数据,清楚用户对视频的哪些部分最感兴趣、哪些部分容易跳出、哪些内容会吸引用户评论等等。
据统计,YouTube 每分钟就有 500 小时的视频上传到网站上,Google 可以说是坐在了一座会源源不断生产金子的金山上,这或许会成为 Google 真正的护城河。
多模态才是未来
随着多模态模型越来越受到重视,未来会有更多的开发人员选择用视频训练语言模型。AI 教父、Meta AI 首席研究员 Yann LeCun 在近日一条推文中称:“通过视觉学习世界如何运转的系统,将对现实有更深刻的理解”,并称赞了 Meta 在这一领域的研究成果。
著名风投机构 A16Z 在最近采访了四家明星 AI 公司 AnthropicAI、Cohere、Character AI、AI21Labs 的 CEO 和创始人,探讨出生成式 AI 当前最需要突破的四个方向,分别是操控、记忆、四肢(访问浏览器等)和多模态。
这四项关键创新将主导 AI 在未来 6-12 个月的发展,这也会影响公司和开发者改变构建产品的方式。
Cohere 的 CEO Aidan Gomez(著名论文《Attention is all you need》的主要作者之一)表示,AI 系统的能力终究是有限的,因为并非所有的内容都是文本形式,因此多模态能力对于大语言模型来说是个重要的发展方向,像 GPT-4、 Character.AI 和 Meta 的 ImageBind 等模型已经在处理和生成图像、音频等内容。
“我们现在的模型确实是字面意义上的‘盲人’,这需要改变。”Aidan Gomez 在采访中总结道。
多模态模型能够极大地拓宽 AI 的应用场景,例如可以用在自动驾驶汽车或其他需要与物理世界实时交互的场景上。此前,Google 在 I/O 大会发布的 Med-PalM-2 模型便展示过可以分析 X 光照片的能力。
这也让人更加期待,更强大的 Gemini 能在多模态领域给我们带来多大的惊喜。现在看来,暂时取得领先的 OpenAI,远没有到停下来休息的时刻。
本文来自微信公众号:APPSO (ID:appsolution),作者:黄智健
标签:
上一篇 : 英国监管机构裁定前首相约翰逊违反离任后就职规定
下一篇 : 最后一页
投入或超GPT-4,AlphaGo成秘密武器
06-27 21:12:20
英国商业任命咨询委员会今天表示,约翰逊是在《每日邮报》宣布他的新专
06-27 20:40:28
职工未出勤能否扣除相应的高温补贴是大家常问的,不过就以往的情况看如
06-27 19:52:59
6月27日,“2023全国耕耘者振兴大会”在四川德阳举行。大会以“和美乡
06-27 19:23:43
1、企业发展需要经历的阶段:创立阶段企业登记注册开始运营,即进入创
06-27 18:44:16
直播吧6月27日讯记者隆戈消息,AC米兰26岁左后卫巴洛-图雷寻求离队,而
06-27 17:58:17
中新网北京6月27日电(记者张蔚然)中国外交部发言人毛宁6月27日主持例行
06-27 17:52:32
1、“知音”是一个汉字,它的拼音是zh和y和n 2、一是指知性情,二是指
06-27 17:11:12
前5个月京津冀外贸进出口超2万亿元-6月25日,据石家庄海关25日消息,今
06-27 16:41:38
快科技6月27日消息,在很多人的印象里,SUV、硬派越野车和轿车对撞,处
06-27 16:00:13
6月27日11时30分重庆市气象台发布今年首个高温橙色预警信号预计27日13
06-27 15:34:45
PGS2预选赛小组赛最后一天,最受关注的无疑是近期问题重重的Pero,Pero
06-27 15:14:02
人民银行官网截图人民网北京6月27日电(记者罗知之)据人民银行官网消息
06-27 14:40:10
【佳都科技:“佳都知行行业大模型”将于6月29日发布】6月27日电,佳都
06-27 14:13:43
我不知道他们以前有多漂亮,所以我无法想象他们的美丽。()因此,我深
06-27 13:30:55
1、分区完成后一般就分不的了,可以用搬家软件,把C盘的资料搬到其它盘
06-27 12:44:29
中国报告大厅2023年6月27日紫外线吸收剂BP-4价格最新走势监测显示:湖
06-27 12:14:52
来为大家解答以下的问题,包网txt电子书下载,侍卫生包子书包网这个很
06-27 11:38:44
6月27日,广州市政府新闻办公室举办“高质量看国企”新闻发布会。广州
06-27 11:16:14
【ChatGPT访问量涨不动了】6月21日,A股三大指数均跌超1%,其中ChatGPT
06-27 10:52:22
近日,新一轮太湖清淤开始实施。江苏省常州市武进区率先在江苏开展新一
06-27 10:41:41
6月26日,有消息称,中国跨境电商SHEIN已经秘密向美国有关方面提交材料
06-27 10:05:05
“我听说这样一个故事,1988年,75位诺贝尔奖获得者齐聚巴黎,在这场世
06-27 10:01:43
近日,财政部、税务总局、工业和信息化部等三部委联合发布《关于延续和
06-27 09:27:38
经查,当事人连续两年未在“国家企业信用信息公示系统(江苏)”报送并
06-27 08:55:58
最后一集烟花下团聚的那段,慎平那句“在医院里让你钻进缝里”是影子存
06-27 08:45:56
日前记者获悉,西安市红会医院与碑林区卫健局在碑林区中医医院共同举行
06-27 08:04:52
【A股公司“退市潮”延续优胜劣汰市场生态加速形成】6月以来,A股市场
06-27 07:14:45
北京商报讯(记者刘晓梦)6月25日,在长安马自达2023粉丝盛典上,中国
06-27 06:27:01
2022年,AG电子竞技俱乐部已有13个游戏项目战队,当年接受媒体采访时,
06-27 05:38:30
1、《宋代咏雪词》是一本2021年出版的图书。2、由合肥工业大学出版社出
06-27 03:11:12
1、护理狐狸毛领方法 步骤:2、用专门的洗涤剂(例如开米涤王丝毛净)单
06-27 01:09:30
1、这是两个成语,上善若水的意思:至高无上的品格就像水。2、无欲则刚
06-26 22:52:30
有许多朋友听说我在日照上学所以经常来问我日照有什么好玩的好吃的,被
06-26 21:57:22
中国流行歌手蔡徐坤再次引发了粉丝们的热议,他积极回应和女网红歌迷互
06-26 21:25:58
武汉铂首置业有限公司以商品房预售合同纠纷为由,将武汉公司控股子公司
06-26 20:52:46
红星资本局6月26日消息,今日晚间,福田汽车(600166 SH)公告,法院裁
06-26 19:45:57
【国家矿山安全监察局发布《智能化矿山数据融合共享规范》】今天(26日
06-26 19:18:00
中新网黑龙江新闻6月26日电(刘璐)为深化“法治校园”建设,进一步增强
06-26 18:48:14
中新经纬6月26日电A股三大股指周一齐跌,沪指盘中下破3150关口,创1月5
06-26 18:28:16
1、《有没有一首歌会让我想起你》是王耀影演唱的歌曲。2、所属专辑《情
06-26 18:00:10
截至2023年6月26日收盘,云鼎科技(000409)报收于元,下跌%,换手率%,
06-26 17:24:05
南方财经6月26日电,腾亚精工公告,拟现金购买江苏铁锚持有的江苏腾亚
06-26 16:57:25
公元股份6月26日晚间公告,控股子公司浙江公元新能源科技股份有限公司
06-26 16:38:50
国家一级演员是娱乐圈每一个演员都梦想得到的称号这不仅意味着演员们在
06-26 16:03:11
《勇者斗恶龙怪物仙境3:魔族王子与精灵的旅程》中字宣传片,本作将
06-26 15:51:33
最高法首次公布因涉新型毒品核准被告人死刑案例。6月26日,最高人民法
06-26 15:22:02
40℃高温27日起再上线,局地气温或破极值!
06-26 14:50:35
9只新股申购来袭,周二有密集申购。本周,A股有9只新股网上发行,其中
06-26 13:47:39
为了让市民和游客度过一个文明有序、欢乐祥和、轻松愉快的端午节假期,
06-26 13:14:38
投入或超GPT-4,AlphaGo成秘密武器
2023-06-27
英国商业任命咨询委员会今天表示,约翰逊是在《每日邮报》宣布他的新专
2023-06-27
职工未出勤能否扣除相应的高温补贴是大家常问的,不过就以往的情况看如
2023-06-27
6月27日,“2023全国耕耘者振兴大会”在四川德阳举行。大会以“和美乡
2023-06-27
1、企业发展需要经历的阶段:创立阶段企业登记注册开始运营,即进入创
2023-06-27
Copyright © 2015-2022 东方纤维网版权所有 备案号:沪ICP备2020036824号-8 联系邮箱:562 66 29@qq.com