《全球人工智能治理倡议》发布；2024十大战略技术趋势四项涉及AI；OpenAI增加AGI为企业核心价值观|一周热点第20期
《全球人工智能治理倡议》发布；2024十大战略技术趋势四项涉及AI；OpenAI增加AGI为企业核心价值观|一周热点第20期
发布日期：2023-10-31 11:32
本周热点
1、《全球人工智能治理倡议》发布
2、《人工智能全景报告》：GPT-4在发布八个月后仍然是最强的大语言模型
3、2024十大战略技术趋势四项涉及AI
4、华人团队为RLHF设计新算法，节省约50%内存
5、2025年前为超100万台PC提供AI特性
6、OpenAI增加AGI为企业核心价值观
1、欧盟拟制定新规，将大模型划分为三个级别
欧盟正在考虑采用三层方法来监管AIGC模型和系统。根据这份文件，欧盟将大模型分为三个级别，并分别制定不同的规则。谈判人员希望在10月25日的会议上完善该立法，目标是在年底前敲定法案。第一类大模型包括所有基础模型，它们必须遵守透明度要求，提供版权保护等；第二类被称作“非常强大的基础模型”，根据训练它们所需的计算能力来区分，在投放市场之前，这些模型必须接受外部专家的定期红队审查；第三类是大规模AGI（通用人工智能）系统，任何拥有1万名注册企业用户或4500万注册终端用户的系统都属于该类别，除了满足前两个级别的要求外，还需要引入风险评估和缓解系统。
2、《全球人工智能治理倡议》发布
习近平主席在第三届“一带一路”国际合作高峰论坛开幕式上的主旨演讲中提出《全球人工智能治理倡议》。外交部发言人就这一倡议的特殊意义答记者问：“这是中方积极践行人类命运共同体理念，落实全球发展倡议、全球安全倡议、全球文明倡议的具体行动。”《全球人工智能治理倡议》围绕人工智能发展、安全、治理三方面系统阐述了人工智能治理中国方案，提出11项倡议，包括坚持“以人为本”、尊重他国主权、坚持“智能向善”、坚持平等互利、推动建立风险等级测试评估体系、逐步建立健全法律和规章制度、坚持公平性和非歧视性原则、坚持伦理先行、坚持广泛参与&协商一致&循序渐进的原则、积极发展相关技术开发与应用、增强发展中国家的代表性和发言权等。
3、工信部：夯实AI技术底座，推动产业智能化升级
工业和信息化部新闻发言人、运行监测协调局局长陶青在今天举行的新闻发布会上表示，下一步，工信部将坚持突出重点领域，大力推动制造业数字化转型，推动人工智能创新应用，主要从夯实人工智能技术底座、推动重点行业智能化升级、推动智能产品和装备发展以及加强支撑服务体系建设四个方面着力。
4、《人工智能全景报告》：GPT-4在发布八个月后仍然是最强的大语言模型
一年一度发布的《人工智能全景报告》（State of AI Report）发布了最新一期报告。报告指出，OpenAI的GPT-4在发布八个月后仍然是最强的大语言模型（LLM），在经典基准测试和旨在评估人类的考试上都击败了所有其他大模型。但报告指出，随着尖端人工智能系统变得更加强大和灵活，比较它们会变得越来越困难。
5、外媒评选50家最具前途创企，约19家与AI相关
知名科技媒体The Information发布了50家最具潜力的初创公司名单，其中数据与AI公司名单包括Midjourney、Perplexity、Modal Labs、Pika Labs、ElevenLabs、Statsig、Together和Unstructured.io，共8家公司。此外，根据The Information在名单中提供的公司介绍，其他7个领域的创企名单中，至少有11家公司的业务涉及到AI领域。据介绍，该名单的选择标准包括当前收入、商业模式和增长前景等，限定为融资额低于1亿美元或在过去两年内开始运营的初创企业。
6、华为阿里云等发起人工智能安全治理专业委员会
10月12日上午，中国网络空间安全协会人工智能安全治理专业委员会成立大会在北京召开。中国网络空间安全协会人工智能安全治理专业委员会由国家互联网应急中心、北京智源研究院、上海人工智能实验室、阿里云、华为、金山办公等单位发起，组织人工智能领域产学研单位开展技术创新、产业协作、成果转化和行业自律，并在模型安全、内容安全、数据安全、隐私保护和知识产权保护方面不断提升人工智能安全治理能力，以行业协同方式探索人工智能安全新型综合治理新模式，为中国人工智能产业健康发展提供可持续的基础性支撑。人工智能安全治理专业委员会首批成员单位共58家，包含人工智能领域的高校、研究院所、企业等。
1、2024十大战略技术趋势四项涉及AI
分析公司Gartner今天发布《2024十大战略技术趋势》，号称预测“能够在未来36个月内为IT领导者带来重大颠覆和机遇的十大战略技术趋势”。Gartner认为，十大战略技术趋势分别是AI信任、风险和安全管理，持续威胁暴露管理，可持续技术，平台工程，AI增强开发，行业AI云平台，智能应用，全民化的生成式AI，增强型互联员工队伍，以及机器客户。Gartner称，到2026年，生成式AI将显著改变Web应用程序和移动应用程序中70%的设计和开发工作。
2、华人团队为RLHF设计新算法，节省约50%内存
10月17日，来自香港中文大学（深圳）、南京大学等机构的华人团队发表论文，介绍了一种名为ReMax的新算法，专为RLHF（基于人类反馈的强化学习）而设计。ReMax在计算效率和实现简易性上超越了最常用的算法PPO，约减少50%的GPU内存，实现2倍的训练速度提升，核心部分实现只需6行代码，且性能没有损失。
3、研究揭示:AI聊天机器人可根据对话内容推断用户信息
近期研究揭示了一个令人不安的事实:AI聊天机器人可能会根据您与它们的对话内容来推断您的个人信息。瑞士州立科学学校ETH Zurich的计算机科学家们在接受Wired采访时描述了他们的最新研究成果，尽管尚未经过同行评审，但这一发现已经引发了对互联网隐私的新担忧。研究人员测试LLMs是否能准确推断用户的居住地，结果发现OpenAI的GPT-4在85%到95%的时间内能够正确预测私人信息。
4、首个AI智能体中文测评基准发布
SuperCLUE宣布推出面向AI智能体的测评基准SuperCLUE-Agent。这是一个聚焦于Agent能力的多维度基准测试，包括3大核心能力、10大基础任务，可以用于评估大语言模型在核心Agent能力上的表现，包括工具使用、任务规划和长短期记忆能力。经过对16个支持中文的大语言模型的测评，SuperCLUE发现：在Agent的核心基础能力中文任务上，GPT4模型大幅领先；同时，代表性国内模型，包括开源和闭源模型，已经较为接近GPT3.5水平。
5、Salesforce研究团队推出CodeChain框架，引导生成模块化代码
近日，Salesforce研究团队近日宣布推出一款名为CodeChain的框架，它将引导大模型来生成模块化代码。CodeChain首先通过链式思维提示指导LLM生成模块化代码，然后通过一系列自我修订来优化代码。具体而言，CodeChain通过提取和聚类生成的子模块，并选择具有更通用和可重用实现的簇代表来指导大模型重新生成新的模块化解决方案。实验结果表明，CodeChain可以显著提高生成的解决方案的模块化和正确性。
6、西湖大学等团队发布大模型事实性综述
西湖大学联合普渡大学、复旦大学、耶鲁大学、微软亚洲研究院等国内外十家科研单位，发表了一篇关于大模型事实性的综述。该综述调研了三百余篇文献，重点讨论了事实性的定义和影响、大模型事实性的评估、大模型事实性机制和产生错误的原理、大模型事实性的增强等几个方面的内容。该综述的目标是帮助学界和业界的研究开发人员更好地理解大模型的事实性，提高模型的知识水平和可靠程度。
1、英特尔：2025年前为超100万台PC提供AI特性
近日，英特尔在“英特尔On技术创新峰会”期间宣布正式启动首个AI PC加速计划。该计划将在2025年前为超过100万台PC带来AI特性，并由计划12月14日发布的英特尔酷睿Ultra处理器率先推动。据介绍，英特尔将通过与超100家独立软件供应商合作伙伴的深度合作、集合300余项AI加速功能，在音频效果、内容创建、游戏、安全、直播、视频协作等方面继续强化PC体验。官方表示，这些独立软件供应商包括Adobe、BlackMagic、Topaz、万兴科技、Zoom等。
2、OpenAI增加AGI为企业核心价值观
OpenAI最近几周悄然修改了其网站上列出的所有“核心价值观”，更加强调AGI（通用人工智能）。OpenAI的职业页面列出了五大核心价值观，其中“聚焦AGI”（AGI focus）位列第一，并补充道：“任何对此无益的事情都不在我们的考虑范围之内。”其他的四项分别是紧张和拼搏（Intense and scrappy）、规模（Scale）、制造人们喜爱的产品（Make something people love）和团队精神（Team spirit）。OpenAI多年来一直表示希望开发AGI。在2018年发布的一份使命声明中，OpenAI将AGI描述为“在最具经济价值的工作中超越人类的高度自治系统”。OpenAI首席执行官萨姆·阿尔特曼（Sam Altman）在近期的一次座谈中，将AGI描述为“相当于一个你可以雇佣为同事的‘中位人类’（median human）”。
3、Meta新研究：AI实时解读大脑信号并还原图像
当地时间10月18日，Meta于官网发布一项新研究，利用MEG（脑磁图）实现大脑活动图像的实时解码，开发了一个由图像编码器、大脑编码器和图像解码器组成的三部分系统。据介绍，该系统可以实时部署，根据大脑活动重建人脑在每个瞬间感知和处理的图像，并用AI再现。Meta称，该研究的主要贡献在于速度，研究结果表明，MEG可用于以毫秒级的精度破译大脑中产生的复杂表征。不过在准确性上，目前通过MEG解码生成的图像仍然不如通过fMRI（功能性磁共振成像）获得的解码精确。
4、英伟达爆火智能体研究：AI逼真还原人类情感！会饿会孤独，会跑步会发火
最近，来自英伟达、华盛顿大学、港大的研究人员发布了类人智能体Humanoid Agents。从名字就可以看出，这种智能体能够反映人类的基本需求。以往的智能体模拟，智能不完全地模仿人类行为，原因就在于，它们并没有真正反映出人类的基本需求、真实情感及人际间微妙的距离感。而Humanoid Agents的初衷，就是研发一个融合上述元素的、更贴近人类的智能体。
5、中文在线推出万字创作大模型“中文逍遥”
10月13日，“中文逍遥大模型发布会暨中文在线集团股份有限公司与石景山区人民政府战略协议签约仪式”在石景山区首钢园举行。会上，中文在线发布全球首个万字创作大模型“中文逍遥”大模型，提供从故事构思、情节安排、内容撰写，乃至人物对白、插画制作，甚至内容评判等全创作周期的功能辅助，除了面向有写作功底和基础的创作者，也可以帮助“新手小白”实现创作梦想。中文在线与石景山区人民政府签署战略合作协议，双方将围绕推动人工智能大模型应用发展、建设数字经济产业投资平台等方向通力合作，打造数字经济新高地。
6、商汤发布升级版医疗健康大语言模型“大医”
10月16日，商汤发布升级版医疗健康大语言模型“大医”，并正式面向医疗健康产业链上下游机构客户开放服务。据介绍，该模型内嵌医学“场景集市”，包含13个预设场景，功能覆盖智慧大健康、智慧患者服务、智慧临床以及数智建设四大领域；支持提示工程自定义、长程记忆存取和医学知识库查询总结等一系列个性化功能，医疗健康机构可根据实际需求打造专属医疗健康大模型。目前，商汤已与郑州大学第一附属医院、上海交通大学医学院附属瑞金医院、上海交通大学医学院附属新华医院等机构开展合作，实现“大医”在具体医疗健康场景中落地。
7、面壁智能联合清华推出AI智能体Xagent
近日，面壁智能联合清华大学NLP实验室共同研发并推出大模型“超级英雄”XAgent。据介绍，XAgent是一个可以实现自主解决复杂任务的全新AI智能体，以LLM（大语言模型）为核心，能够理解人类指令、制定复杂计划并自主采取行动。通过任务测试，XAgent在真实复杂任务的处理能力已全面超越由GPT-4驱动的AutoGPT。
8、Anthropic宣布Claude上线全球95个国家或地区
10月17日，Anthropic于社交平台X上宣布即日起向全球95个国家或地区的用户提供Claude访问权限。此前，Claude仅向美国和英国的用户提供使用。Anthropic在今年7月发布了全新的Claude 2。相比前代版本，Claude 2支持上传文件，能够实现更长文本的响应，在编程、数学、推理等方面都有大幅提升。
9、阿里达摩院发布业内首个遥感AI大模型
阿里达摩院发布业内首个遥感AI大模型 (AIE-SEG)，号称“率先在遥个模型实现“万物零样本’的快速提取”，并可识别农田、水域、建筑物感领域实现了图像分割的任务统一等近百种遥感地物分类，还能根据用户的交互式反馈自动调优识别结果。据悉，遥感技术主要用于城市规划、耕地保护、应急救灾等行业应用，而在 AI 加持下，相关遥感技术能够对卫星捕获内容及历史气象数据进行分析，从而助力城市运营、耕地保护、应急救灾等行业应用。
