新闻资讯
九游会J92017年Transformer架构面世后-九游娱乐(中国)有限公司-官方网站
“从长期的角度来看，东谈主类社会发展每次浩大跃迁皆是由本领翻新带来的。工业期间的人人GDP年均增速约为1%-2%，信息期间增速为3%-4%，东谈主工智能期间，这个数字会是若干？”
11月22日，IDEA计划院创院理事长、好意思国国度工程院外籍院士沈向洋在2024 IDEA大会上抒发了上述不雅点。他强调，跟着AI的各项才调贴近、致使特殊东谈主类，AI处治已成亟待人人共同靠近的议题。
本日，粤港澳大湾区数字经济计划院（下称IDEA计划院）发布DINO-X成见检测视觉大模子，该模子算作GroundingDINO系列升级之作，在多项才调上取得普及。
在检测才调上，无需用户领导即可检测万物，无论是常见物体照旧凄凉的长尾物体（出现频率低但种类闹热的物体）皆能精确识别并给出类别。
获利于超1亿高质地样本的大领域数据集各种化查验，DINO-X对未知场景和新物体稳健性强，泛化才调出色，在实质应用场景中更具天真性。
在探讨AI发展头绪时，沈向洋说起算力、算法与数据层面变化。算力上，摩尔定律指出每18个月算力需求增长一倍，而当下大模子对算力需求每年增长四倍以上，往常十年英伟达市值大幅攀升300倍与算力需求剧增密致计划，十年间算力需求增长约100万倍。
算法层面，2017年Transformer架构面世后，AI、深度学习、大模子多沿此路子发展，OpenAI的O1系列带来算法打破念念路，转换过往单纯预查验预测“下一个token”模式，融入相似东谈主念念考、推理的后查验、后推理进程。
数据方面，“缺数据”如故成为大模子行业内的共鸣之一。跟着GPT系列发展，数据需求激增。沈向洋泄漏，距离GPT3面世如故往常三年，其时OpenAI用了2T数据，1万亿Token。GPT4用了12T数据，查验用了20T数据，“事实上，互联网上洗干净的数据大要是20万亿。”
沈向洋合计，GPT5预测需200T数据领域，合成数据不错给大模子提供更为丰富的查验材料，还有望催生异日百亿好意思金级别的创业机遇。
“互联网上如故找不到那么多的数据，异日需要更多高质地的合成数据查验异日的模子。”他例如称，1万亿的数据约就是500万本书，20万张高清像片，抑或500万篇论文。东谈主类历史上的竹素大要是21亿Tokens，微博有38亿Tokens，Facebook大要领有140TTokens的数据。
当下互联网数据存量告急，应付媒体数据质地欠佳，合成数据受疼爱九游会J9，且私域数据诈欺存在安全孤岛问题。对此，IDEA计划院通过IDEADataMaker用加密形态诈欺私域数据生成新语料、语境图谱。