您好,欢迎潮外音资讯平台,一线信息尽在掌握!
来源:潮外音 发布时间:2024-12-26 标签:
浏览:19

谷歌旗下deepmind公司最近公布了三项新进展,其中一项引人瞩目的进展是针对收集训练数据的系统,他们起草了一份被称为“机器人宪法”的文件,旨在确保ai机器人不会对人类造成伤害。

这个数据收集系统名为autort,它同时利用了视觉语言模型(vlm)和大型语言模型(llm),以便更好地理解环境、适应陌生环境,并决定适当的任务。deepmind的“机器人宪法”受到了科幻作家艾萨克·阿西莫夫的“机器人三大定律”的启发,从安全的角度出发,指导llm避免选择涉及人类、动物、尖锐物体甚至电器的任务。

deepmind表示,为了提高安全性,他们对机器人的关节进行了编程限制,当力超过一定阈值时,机器人会自动停止。此外,还为机器人配备了专门的物理紧急停止开关。过去7个月的时间里,谷歌部署了一支由53台autort机器人组成的机群,这些机器人分别部署在四个不同的办公楼,并进行了超过77000次试验。其中一些机器人由人类操作员远程控制,而另一些机器人则根据脚本或完全自主地使用谷歌的机器人变形器(rt-2)人工智能学习模型运行。

随着机器人技术的迅速发展,人们开始越来越关注ai机器人对人类的潜在威胁。因此,谷歌的这一举措被认为是在保障人类安全和福祉方面的重要一步。通过起草“机器人宪法”,deepmind希望确保机器人在执行任务时不会选择可能对人类、动物或环境造成伤害的行为。

在实际操作中,deepmind的研究人员通过限制机器人的关节和力的使用,以及添加物理紧急停止开关,为机器人提供了额外的安全保障。这些限制和措施旨在防止机器人在执行任务时产生意外或潜在危险。同时,研究人员还利用谷歌的机器人变形器(rt-2)人工智能学习模型对机器人进行了训练,以提高它们的智能适应能力和环境感知能力。

谷歌部署的这支由53台autort机器人组成的机群在过去的7个月中进行了大量试验。其中一些机器人由操作员远程控制,而另一些则通过脚本或完全自主地运行。这些试验的目的是测试机器人的性能和安全性,并收集数据以改进其设计和功能。通过这些试验,deepmind希望验证“机器人宪法”所制定的安全指导原则的有效性,并进一步提高机器人的安全性和可靠性。

尽管这项技术仍在研究和开发阶段,但谷歌和deepmind对于保障人类利益和安全的承诺是显而易见的。他们深入研究和制定“机器人宪法”是为了确保ai机器人在执行任务时不会对人类造成伤害。这种倡议对于推动人工智能技术的可持续发展和社会接受度的提高具有重要意义。

然而,尽管有这样的措施和安全保障,人们仍然需要对ai机器人的发展保持警惕。技术的进步和机器智能的增强可能会带来一些未知的风险和挑战。因此,除了制定“机器人宪法”之外,还需要加强监管和法律框架,以确保人工智能技术的安全和道德使用。

谷歌的这一举措可以为其他科技公司树立榜样,并引导整个行业朝着更加安全和可持续的方向发展。随着人工智能应用的广泛推广,确保人类安全和福祉的重要性将变得更加突出。

总而言之,谷歌旗下deepmind公司起草的“机器人宪法”是一个重要的举措,旨在确保ai机器人不会伤害人类。

这一举措体现了谷歌和deepmind对保障人类安全和福祉的承诺,并为人工智能技术的可持续发展和社会接受度的提高树立了榜样。然而,我们仍然需要持续关注和加强对人工智能技术的监管和法律框架,以确保其安全和道德使用。只有在技术发展与人类福祉之间取得平衡的基础上,人工智能技术才能更好地造福于人类社会。

 

声明:本文来自潮外音创作者,内容仅代表作者观点和立场,且不构成任何投资建议,请谨慎对待,如文章/素材有侵权,请联系官方客服处理。


标签:

热门文章

  • 雷军让利:小米港股ipo最终定价17港元
    雷军让利:小米港股ipo最终定价17港元

    雷军让利:小米港股ipo最终定价17港元

    据知情人士透露,小米港股ipo最终定价为17港元。该人士称,在港股大环境不佳以及小米获得10倍超购情况下,小米选...

  • 小米奖励雷军15亿美元股票,林斌:雷军并不知情
    小米奖励雷军15亿美元股票,林斌:雷军并不知情

    小米奖励雷军15亿美元股票,林斌:雷军并不知情

    2018年5月向港交所提交上市申请的小米上市之路备受关注。...

  • 中欧国际工商学院汪泓:未来十年,生成式人工智能可推动全球gdp上升7%

    2024第十届“欧洲论坛”上,中欧国际工商学院院长、管理学教授汪泓指出,当前的全球经济主要受到“颠覆式技术革命”和“新型全球化变革”两大力量的驱动,以人工智能为代表的颠覆性技术正深刻改变着全球经济格局和商业运作模式。据估计,仅生成式人工智能一项,未来十年可推动全球gdp上升7%。汪泓指出,世界需要更加开放和包...

  • 小米正式公开招股 预计7月9日港股上市

    据悉,小米集团于25日正式公开招股,预计将于7月9日挂牌上市,成为港交所上市制度改革后首家采用不同投票权架构...

  • 亚马逊和ebay移除3款中国造产品

    产品安全很重要,也许电商平台没能力一一审查,但有消费者组织是专门干这个的。查到问题产品,他们就向平台和...

  • 格力召开股东大会,董明珠或将连任

    据悉,26日格力电器召开2017年度股东大会。与此前外界所期待与预测的不同,董事长换届并未在此次大会上完成。除...

潮世界

更多 >
  • 揭秘openr:首个类o1开源推理框架,增强大型语言模型复杂推理能力
    揭秘openr:首个类o1开源推理框架,增强大型语言模型复杂推理能力

    在人工智能领域,推理能力的提升一直是研究者们不懈追求的目标。近年来,随着大型语言模型(llm)的飞速发展,其在自然语言处理、知识问答等方面的应用日益广泛。然而,在复杂推理任务上,llm的表现仍然存在一定的局限性。为了突破这一瓶颈,openai推出了o1模型,这一模型在推理任务上的表现甚至超过了平均人类水平,引发了...

  • youtube 将推出 ai“一站式服务”一键生成创意,视频创作迈入智能时代
    youtube 将推出 ai“一站式服务”一键生成创意,视频创作迈入智能时代

    在数字内容爆炸性增长的今天,视频已成为连接全球用户最直观、最生动的方式之一。作为视频领域的领头羊,youtube不断探索技术创新,以应对日益增长的创作需求与观众期待。9月18日,随着“made on youtube”特别活动的帷幕缓缓拉开,谷歌宣布了一系列针对youtube平台的ai创新举措,这些举措不仅有望彻底改变视频制作的方式,...

潮世界美团、字节跳动领投3d生成大模型,影眸科技崭露头角或成行业新星
潮世界台积电q4业绩超预期:ai芯片需求强劲,净利润飙升57%,创销售新高
潮世界或迎终结:tiktok主动关停美国业务,挑战美国“不卖就禁”法
潮世界小米澎湃 os 2:“超级小爱”全面升级,计划覆盖超 25 款机型
潮世界国家网信办:2024年238款生成式人工智能服务完成备案

人物

更多 >
广告位
网站地图