一周热点第12期丨OpenAI宣布使用GPT-4进行内容审核；讯飞发布星火大模型V2.0
一周热点第12期丨OpenAI宣布使用GPT-4进行内容审核；讯飞发布星火大模型V2.0
发布日期：2023-09-07 09:25
1、美国众议院民主党成立AI工作组
2、英国首相苏纳克计划11月初主办AI安全峰会
3、国内首个生成式AI监管文件施行
4、讯飞正式发布星火认知大模型V2.0
5、OpenAI宣布使用GPT-4进行内容审核
6、Stability发布聊天机器人Stable Chat
大家好，欢迎来到我们的人工智能一周热点推文！在这里，我们将为您呈现最前沿、最热门的人工智能资讯，涵盖了各地政策、研究动态、技术创新、企业动态等多个领域。我们的目标是让您能够及时了解人工智能领域的最新动态，掌握行业发展趋势，为自己的职业发展和科技创新提供有益的参考。欢迎点赞关注与分享，让我们携手共进，探索人工智能的无限可能！
1、各地高校开始探索如何与AI共存
此前全球多地的大学对ChatGPT等AI工具采取临时禁令，以应对学生用它做作业写论文乃至抄袭的问题。现在情况正在慢慢发生变化，许多大学管理者意识到他们需要找到一种与AI共存的方法。例如，在南加州大学，商学院教授正在试验“助教聊天机器人”，这将有助于回答有关课程大纲的后勤问题；哈佛大学用以鸭子（Duck）为主题的机器人来回答学生有关CS50计算机科学入门课程的问题。在宾夕法尼亚大学沃顿商学院，Ethan Mollick是第一批将AI政策添加到教学大纲中的教育工作者之一，这位副教授希望学生能够深思熟虑地使用AI和ChatGPT，同时了解该技术的局限性。在华盛顿大学和南加州大学，AI在课堂上的使用仍由教授自行决定。南加州大学马歇尔商学院高级副院长Ramandeep Randhawa认为，关键一步是让教师了解ChatGPT实际上能做什么和不能做什么。
2、美国众议院民主党成立AI工作组
美国众议院民主党人正在组建一个新的AI工作组，并优先考虑如何防止深度伪造对个人生活和公众信任造成严重破坏。美国华盛顿州民主党众议员Derek Kilmer将担任新AI工作组的主席，该工作组由97名众议院议员组成。立法者将重点关注几个优先事项，包括利用AI带来的机会、确保失去AI工作的工人能接受再培训并留在劳动力队伍中。
3、加拿大政府征求对生成式AI自愿行为准则的意见
加拿大政府计划就生成式AI公司的“自愿行为准则”征求公众意见。该准则旨在确保参与公司采取安全措施、测试协议和信息披露实践。此次征求意见将于9月14日结束。加拿大政府还计划制定相关法规，包括《人工智能和数据法案》，以确保高影响系统符合要求。通过制定这一行为准则，加拿大积极参与全球负责任AI实践的发展，与美国和欧盟的类似举措保持一致，展示了加拿大政府确保AI技术以造福整个社会的承诺。
4、英国首相苏纳克计划11月初主办AI安全峰会
英国首相苏纳克计划在今年晚些时候举行一次AI峰会，将在美国总统拜登的支持下首次将世界领导人和AI企业高管聚集在一起，并将此视为英国重夺先锋角色的机会。知情人士称，其邀请名单预计包括美国和其他七个国家的领导人、OpenAI CEO萨姆·奥尔特曼（Sam Altman）、Anthropic CEO达里奥·阿莫迪（Dario Amodei）以及DeepMind CEO戴密斯·哈萨比斯（Demis Hassabis）等。
5、日本将敦促企业公开生成式AI数据类型
日本将敦促企业公开用于训练生成式AI程序的数据类型；日本政府希望在今年晚些时候最终确定的指导方针能够消除与AI相关的偏见和其他滥用行为。
6、《人工智能法示范法1.0（专家建议稿）》发布
中国社会科学院国情调研重大项目《我国人工智能伦理审查和监管制度建设状况调研》起草组发布《人工智能法示范法1.0（专家建议稿）》，强调以国家机关的先行先试促进人工智能的推广应用。该法建议采用负面清单管理制度对人工智能进行风险管理，负面清单内的研发、提供活动采取许可机制，实行事前监管；负面清单外的研发、提供活动则采取备案机制，事后监管机制；创设性提出设置国家人工智能主管机关，负责统筹人工智能发展和管理；坚持发展导向，设计了尽职免责等相应条款，以为人工智能创新活动提供宽松政策环境。
7、国内首个生成式AI监管文件施行
国家网信办等七部门联合公布的《生成式人工智能服务管理暂行办法》于8月15日起施行，这是我国首个针对生成式AI产业的规范性政策。该政策提出了促进生成式AI技术发展的具体措施，明确了训练数据处理活动和数据标注等要求；规定了生成式AI服务规范，明确生成式AI服务提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式AI服务，并对生成内容进行标识等。此外，该政策还规定了安全评估、算法备案、投诉举报等制度，明确了法律责任。
1、研究者提出新型生成模型贝叶斯流网络
研究者提出了一种新型生成模型贝叶斯流网络（BFN），该模型结合了贝叶斯推断和深度学习的优势。BFN通过对数据分布的参数进行操作，而不是对数据本身的噪声版本进行操作，从而实现了完全连续且可微的生成过程。实验结果显示，BFN在离散数据和连续数据上都取得了良好的性能，比其他离散扩散模型更优。该研究对于改进生成模型具有重要意义。
2、Meta提出LLM对齐自动化新方法
Meta AI研究人员于8月14日发表论文，提出了一种可扩展的方法即指令回译（instruction backtranslation），通过自动注释相应的指令来构建高质量的指令跟随语言模型。该研究主要针对LLM（大型语言模型）对齐自动化以提升数据质量，通过对Llama进行微调，其产生的模型Humpback在Alpaca排行榜上优于其他现有的非蒸馏模型，如LIMA、Claude、Guanaco等。
3、研究人员使用虚幻引擎创建了更逼真的合成图像数据集
研究人员使用虚幻引擎创建了一系列合成的虚幻图形数据集（PUG），这些数据集比目前公开领域中的图像更加逼真。这些数据集可以用于评估深度神经网络模型的鲁棒性，并且在各个领域都具有应用价值。这项研究为控制和逼真的人工图像数据设定了新的标准。
4、研究发现：大步长可以更快解决优化问题
约翰霍普金斯大学的研究人员发现，传统观点认为梯度下降算法的步长越小越好，但他们的研究表明，采用大步长可以实现近三倍的收敛速度。研究人员通过计算机辅助分析技术，建立了可以证明更快收敛速度的梯度下降方法。然而，这项研究只适用于光滑函数和凸函数，对于实际应用中更复杂的优化问题影响有限。尽管如此，这项研究为梯度下降算法的理解提供了新的思路。
5、研究提出跨语言语义对齐方法，增强非英语预训练LLM的能力
研究人员提出了一种在非英语语言中增强预训练LLM能力的方法，通过构建语义对齐来改善LLM在非英语任务上的表现。研究人员使用大规模单语数据进行持续预训练，并使用翻译任务和跨语言通用任务进行指令调整。他们发现，在翻译数据中将非英语文本放在目标端可以提高LLM在非英语任务上的性能。研究结果表明，跨语言语义对齐是一种有效的方法，为开发更强大的非英语LLM提供了启示。
1、英伟达发布CALM AI模型：训练虚拟角色，可模拟50亿个人体动作
英伟达和以色列理工学院、巴伊兰大学和西蒙弗雷泽大学合作，发布了一篇关于CALM AI模型的技术论文。英伟达表示CALM的全称是条件对抗潜在模型（Conditional Adversarial Latent Models），用于训练定制虚拟角色。英伟达表示在真实世界训练10天，相当于在模拟世界里训练10年时间。CALM AI模型在训练之后，可以模拟50亿个人体动作，涵盖行走、站立、坐姿、跑步、用剑战斗等人类动作。
2、微软开源大模型WizardMath发布 全华班出品
微软于8月11日公布其最新开源大模型WizardMath。经过GSM8k数据集测试，在参数只有700亿，远不及后三者的情况下，WizardMath数学能力直接击败了ChatGPT、Claude Instant 1、PaLM 2-540B等一众大模型。目前，其相关代码、复现方式及论文都已开源或上线，于GitHub上已揽获4.8k标星。作者开发了一种新的方法Evol Instruction，利用AI来代替人类自动生成涵盖各种难度级别开放域指令，然后利用该方法生成很多数学领域相关的指令，以此对羊驼大模型进行微调，得到了WizardMath。以此类推，作者还在羊驼之上得到了专攻代码能力的WizardCoder，效果超越Claude和Bard。论文共9位作者，均为华人。通讯作者为姜大昕，微软全球合伙人、副总裁、前微软亚洲研究院首席科学家，在微软工作16年有余、曾作为微软必应搜索引擎和Cortana智能助手自然语言理解负责人，日前已被曝离职投身大模型创业。
3、讯飞正式发布星火认知大模型V2.0
科大讯飞正式发布了星火认知大模型V2.0，重磅升级两大能力：代码能力和多模态能力。代码能力方面，讯飞星火2.0进行5个维度的升级，包括代码生成、代码补齐、代码纠错、代码解释、单元测试生成。多模态能力方面，讯飞星火2.0在图像描述、图像问答、识图创作、文图生成、虚拟人合成等方面全新升级。讯飞星火还发布了多项能力应用新成果，包括星火语伴2.0、星火教师助手、星火汽车助理等等。讯飞大模型正在行业和企业中落地，此次科大讯飞联合华为推出了星火一体机，采用5种定制优化模式10+可选场景包，支持训练和推理。
4、阿里达摩院发布癌症分析通用模型
阿里达摩院发布多癌影像分析通用模型，可检测、分割和诊断八种主要的高发致死癌症，据称有助于实现多癌统一诊断，降低漏诊概率。针对市面上医疗AI模型出现的高假阳性、漏检等问题，达摩院医疗AI团队联合中山大学肿瘤防治中心、四川省肿瘤医院、浙大附属第一医院、盛京医院、广东省人民医院等单位，提出了一个统一的多癌影像分析通用模型（cancerUniT），以Mask Transformer语义分割为基础，解决多种肿瘤图像此前难以统一检测、分割和诊断的问题，适用于八种主流的高发高致死癌症（肺、结直肠、肝、胃、乳腺、食管、胰腺、肾）以及相关器官中的肿瘤子类型。根据官方数据，在一组631名患者的对比测试中，该模型肿瘤检测、分割和诊断任务的性能均优于8个特定器官的单模型组合，检测任务的平均敏感性达到93%，平均特异性达到82%。
5、OpenAI宣布使用GPT-4进行内容审核
OpenAI宣布使用GPT-4进行内容策略开发和内容审核决策，实现更一致的标注，为策略细化提供更快的反馈循环，并减少人类的参与。使用GPT-4的内容审核系统可以更快地迭代策略更改，开发和定制内容策略的过程从几个月缩短到几个小时。GPT-4还能够解释长内容策略文档中的规则和细微差别，并立即适应策略更新，从而实现更一致的标注。或者，为了大规模处理大量数据，OpenAI可使用GPT-4的预测来微调一个更小的模型。OpenAI相信，这为数字平台的未来提供了一个更积极的愿景，AI可以根据特定平台的策略帮助调节在线流量。任何拥有OpenAI API访问权限的人都能用这种方法来创建自己的AI辅助审核系统。
6、Stability发布聊天机器人Stable Chat
Stability.ai在官网推出了类ChatGPT的对话式生成式AI产品——Stable Chat，基于开源大语言模型StableBeluga开发。Stable Beluga 基于Meta开源大模型Llama，Llama具备的推理、数学解答、生成创意文本、文本翻译、提取摘要、知识问答等功能，Stable Chat同样具备。
7、麦肯锡推出自家AI工具Lilli
咨询巨头麦肯锡公司推出了自家的生成式AI工具Lilli，该工具是由麦肯锡的“ClienTech”团队在首席技术官Jacky Wright的领导下设计的。Lilli可以为员工提供信息、见解、数据、计划，并根据超过10万份文件和采访记录推荐最适合的内部专家。在测试阶段，Lilli已经帮助员工节省了大量的研究和计划时间。麦肯锡计划将Lilli推广到全公司使用，并不排除将其作为外部产品提供给客户或其他公司使用。
8、宇树科技发布全尺寸人形机器人H1
中国机器人公司宇树科技宣布正在开发一种名为H1的人形机器人。H1身高1.8米，体重47公斤，具备流畅稳健的步伐和小步快跑的能力。它搭载了3D LiDAR和深度摄像头，实现了360度全景深度感知。H1的价格预计低于9万美元，将于今年第四季度发货。宇树科技希望H1能在未来几年落地到工业和服务业领域。
9、云从科技推出众寻AI鼠标
云从科技子公司众数信科推出众寻AI鼠标CD Mouse V1 PRO，内置从容大模型、语音识别、机器翻译、自然语言理解等AI技术，可提供一键生成PPT、写作助手、语音检索、个人知识存储等功能。据称，这是国内首个支持企业定制化的AI大模型鼠标，支持企业根据自身应用，进行个性化定制。
10、魔珐科技推出3D虚拟人AIGC消费级产品
魔珐科技推出“魔珐有言”、“魔珐有光”、“魔珐有灵”三款超写实3D虚拟人AIGC消费级产品，分别为虚拟人视频、虚拟人直播、虚拟人服务AIGC平台。公司创始人兼CEO柴金祥称，3D虚拟人需要兼具高质量的形象和AIGC全栈技术，需要具备有形象、会表达、够专业这三大能力。
11、妙鸭相机将并入神力视界
阿里大文娱集团CTO郑勇于今日接受采访证实妙鸭相机将并入神力视界。阿里大文娱于6月成立了神力视界（深圳）文化科技有限公司。郑勇称，妙鸭相机依托神力视界的技术能力孵化而来，为了便于管理，接下来妙鸭相机的公司主体也将并入神力视界，便于产品更聚焦于持续优化功能和用户体验上。