近日,斯坦福HAI研究院发布了关于“生成式AI”的观点报告。报告指出,当前大多数生成式人工智能都是由基础模型驱动的。这些模型为我们的生活、社区以及社会带来的机会是巨大的,与此同时带来的风险也一样。
一方面,生成式AI可以让人类更有生产力和创造力。另一方面,它们可能会放大社会偏见,甚至破坏我们对信息的信任。
相信跨学科的合作对于确保这些技术惠及我们所有人。以下是斯坦福大学的观点医学、科学、工程、人文学科和社会科学领域的领导人关于“生成式人工智能”如何影响其领域和我们世界的观点。
人类大脑可以识别世界上的所有模式,并且据此构建模型或生成概念。几代人工智能科学家的梦想,就是将这种生成能力赋予机器,他们在生成模型算法开发这一领域做过很长时间的努力。
1966年,麻省理工学院的研究人员发起了“夏季视觉项目”(Summer Vision Project),旨在用技术有效搭建视觉系统的一个重要部分。这就是计算机视觉和图像生成领域研究的开端。
近期,得益于深度学习和大数据的密切关联,人们似乎已经到达了一个重要拐点,即将让机器具备生成语言、图像、音频等的能力。
尽管计算机视觉的灵感来源是打造能看到人类所能看到东西的AIIM电竞,但现在这一学科的目标远不限于此,未来要打造的AI应当看到人类所不能看到的东西。
比如,在美国医疗错误造成的死亡是一个令人担忧的问题。生成式AI可以协助医疗保健提供者看到潜在的问题。
如果错误产生于罕见情况,生成式AI可以创建模拟版本的类似数据IM电竞,来进一步训练AI模型,或者是为医疗人员提供训。
在近期的一个为机器人任务制定基准的项目中,研究团队在开始工作前进行了一次大规模的用户研究,询问人们如果由机器人来完成某些任务,他们会受益多少行业资讯,使人受益最多的任务成为项目研究的重点。
IM电竞
Joy Buolamwini领导了一项名为“性别阴影”的研究,发现AI经常在识别女性和有色人种时出现问题IM电竞。类似这样对缺乏代表性群体的偏见,在生成式AI中还会继续出现。
判断一张图片是否是使用AI生成的,也是十分重要的能力。人类社会是建立在在对公民身份的信任之上,如果缺乏这种能力,我们的信任感就会降低。
机器生成能力方面的进展是非常令人振奋的,发掘人工智能看到人类无法看到的东西的潜力也是如此。
然而,我们需要警惕,这些能力可能扰乱我们的日常生活、我们所处的环境,破坏我们作为世界公民的角色。
斯坦福大学人类中心人工智能研究所主任,计算机副教授Percy Liang发文“新寒武纪时代:科学的兴奋、焦虑”
但随着近期基础模型的进步,人工智能的“寒武纪爆炸”正在发生,人工智能将可以创造任何东西,从视频到蛋白质再到代码。
基于深度神经网络和自我监督学习而建立的基础模型已经存在有几十年了。然而,最近这些模型所能训练的庞大数据量使模型的能力突飞猛进。
2021年发布的一篇论文详细介绍了基础模型的机会和风险,这些新出现的能力会成为“科学界兴奋的来源”,也会导致“意料之外的后果”。
论文中还讨论了同质化问题。同样的几个模型被重复使用作为许多应用的基础,这样能使研究人员集中精力在一小部分模型上。但集中化也使这些模型成为单一的故障点,潜在的危害会影响到诸多下游应用。
对基础模型进行基准测试也是十分重要的,以便研究人员更好地了解其能力与缺陷,制定更合理的发展战略。
HELM(语言模型的整体评估)的开发就是为了这个目的。HELM以准确性、稳健性、公平性等多种指标,对30多个著名的语言模型在一系列场景中的表现做出了评估。
新的模型、新的应用场景和新的评价指标还会出现,我们欢迎大家为HELM的发展添砖加瓦。
上交所总经理蔡建春:促进央企估值水平合理回归,推动央企上市公司质量提升
上交所总经理蔡建春:促进央企估值水平合理回归,推动央企上市公司质量提升
已有3家主力机构披露2022-12-31报告期持股数据,持仓量总计14.53万股,占流通A股0.06%
近期的平均成本为92.12元。多头行情中,上涨趋势有所减缓,可适量做高抛低吸。该股资金方面受到市场关注,多方势头较强。该公司运营状况不佳,但多数机构认为该股有长期投资价值。
限售解禁:解禁1.586亿股(预计值),占总股本比例39.58%,股份类型:首发原股东限售股份。(本次数据根据公告推理而来,实际情况以上市公司公告为准)
投资者关系关于同花顺软件下载法律声明运营许可联系我们友情链接招聘英才用户体验计划
不良信息举报电话举报邮箱:增值电信业务经营许可证:B2-20090237