今天微软宣布多项工具和数据集开源 ,这些工具旨在审计 AI 驱动的内容审核系统,以及自动编写突出显示 AI 模型中潜在错误的测试。微软表示 AdaTest 和(De)ToxiGen 项目可以产生更可靠的大型语言模型 (LLMs),或者类似于 OpenAI 的 GPT-3的模型,用于分析和生成具有人类水平复杂性的文本。
目前 LLMs 存在诸多风险。因为这些模型经过了大量来自于互联网(包括社交媒体)的数据培训,因此它们在训练过程中可能会遇到有毒文本(toxic text)。由于重新训练模型的成本以及存在的大量错误,发现和修复这些模型中的缺陷仍然是一个挑战。
为了解决毒性问题,Microsoft Research 团队开发了 ToxiGen,这是一个用于训练可用于标记有害语言的内容审核工具的数据集。据微软称,ToxiGen 包含 274,000 个“中性”(neutral)和“有毒”(toxic)陈述的示例,使其成为最大的公开仇恨言论数据集之一。
为了生成样本,Microsoft Research 团队提供了一个针对 13 个少数群体的“中性”陈述和仇恨言论的 LLM 示例,这些群体包括黑人、身体和认知障碍者、穆斯林、亚洲人、拉丁裔、LGBTQ+ 和美洲原住民。这些陈述来自现有的数据集以及新闻文章、观点文章、播客记录和其他类似的公共文本来源。
微软团队解释说,用于创建 ToxiGen 语句的过程被称为 (De)ToxiGen,旨在通过指导 LLM 生成工具可能错误识别的语句来揭示特定审核工具的弱点。通过对三个人工编写的毒性数据集的研究,该团队发现从一个工具开始并使用 ToxiGen 对其进行微调可以“显着”提高该工具的性能。
【来源:cnBeta.COM】
相关下载 |
索尼《漫威蜘蛛侠》系列一经推出即大获成功,总销量至今超过2000万份,衍生作《蜘蛛侠:迈尔斯·莫拉莱斯》又卖出了650万份,不可谓不成功。不过据漫威详情>>
不久前,有消息称Win11 22H2更新的RTM正式版即将签署,Win11的首个大版本更新已经指日可待。 近日, 微软提前面向Win11用户推送了22H2版本的桌面聚焦特性,所有升级至Bu详情>>
很显然,微软正在不遗余力的提高Windows 11的用户体验,因为在他们看来,这个系统得到了用户的认可。 在2022年的Computex期间,微软的Windows和Surface主管Panos Panay指详情>>
上周末,微软悄然向参与 Beta 计划的用户推送 OneNote 早期测试更新。 该更新为侧边栏提供了一个新的导航UI布局,并进行了视觉刷新,使其与 Windows 11 的设计保持一致。 详情>>
微软在其Surface品牌下提供了优秀的产品,如Surface Duo和SurfaceBook。根据最近公布的专利细节,微软现在正在开发下一代双屏手机,名为"Surface Duo3",新品可能更耐用。 详情>>
去年发布 Win11 系统时,微软除了强调它有着更现代的 UI 设计之外,还表示 Win11 加强了安全性,面对网络威胁更有底气,不过在日前的 Pwn2Own 2022 黑客大赛上, 详情>>
“阿汤哥”模拟器终于要来啦!《微软飞行模拟》全新DLC“壮志凌云”,已经官宣5月25日正式推出。同时微软还推出了一个宣传网站,玩家可以在这个网站利用详情>>
“阿汤哥”模拟器终于要来啦!《微软飞行模拟》全新DLC“壮志凌云”,已经官宣5月25日正式推出。同时微软还推出了一个宣传网站,玩家可以在这个网站利用AR创建自己的飞行员形象详情>>
近日,前 Xbox 总裁艾德·弗莱斯(Ed Fries)做客第 105 期 XboxEra 播客,分享了他任职期间(1986-2004 年)微软为收购暴雪娱乐、西木工作室与任天堂所做过的努力。前Xbox总裁艾德详情>>
早在之前我们就报道过美国联邦贸易委员会(FTC)与纽约市官方机构针对微软收购动视暴雪一案进行了针对性调查,让这起收购案增加了些许波澜,而面对审查带来的详情>>
开发商Asobo在今日(5月18日)推送了《微软飞行模拟》“世界更新9”的更新,此次游戏中加入了意大利的94个景点,马耳他的11个兴趣点。更新后,玩家将详情>>
本周,IE浏览器6月16日退役登上热搜。 对此,一些网友担心起部分考试报名页面、网银插件届时不支持怎么办,对此, 微软Edge浏览器官博回复表示,Edge浏览器有IE模式。 详情>>
随着环境问题登上世界中心舞台,全球各地的天气事件、野火、干旱和洪水日益严重,在供应链上下游产生污染的公司正在寻找方法来衡量他们对环境的影响,最终目标是找到方法来详情>>
多方消息源透露微软正开发一款新的应用程序,允许用户为 Windows 和 Xbox 创建自定义动态壁纸。 这条信息最早是由 Aggiornamenti Lumia 提供的,它是微软、Xbox、Window详情>>
Windows Subsystem for Linux在Windows 10和Windows11中的到来为基于Linux的发行版的用户打开了一个新的世界。直到现在,Ubuntu的粉丝们还仅限于安装长期支持(LTS)版本,但详情>>
据Xbox Era记者Nick Baker,《战争机器》“士官长合集”风格的游戏正在开发中,暗示微软将推出《战争机器复刻合集》。 Nick在其播客节目上说:“一段时间前,我说微软还详情>>
在今年晚些时候发布Windows 11 22H2版本之前,微软正在逐步刷新随其操作系统内置的应用程序。许多应用程序已经接受了设计改造,包括画图、照片、记事本,甚至新的Outlook也详情>>
一项新发现的专利表明,微软可能正在设计一款外接驱动器,使其Xbox SeriesS游戏机可以下载安装范围更广的游戏程序。微软的专利概述了一个系统,它并不打算提供一个完整版本详情>>
尽管Windows 7系统早已停止支持,但微软依然为加入ESU计划的设备提供安全更新。换句话说,除非你的公司为安全更新付费,否则你的Windows 7设备不会得到任何补丁。 本月,详情>>
微软邀请 Windows 用户参与票选活动 ,选出 Microsoft Store 中最喜欢的应用程序。 用户可以从 FileManagement(文件管理)、Utility(实用工具)和 OpenPlatform(开放平台)三详情>>
这两天是微软的每月周二补丁日, Win11 及 Win10 系统都收到了新补丁升级,不出所料这又会带来一些 bug ,其中 Win11 的新补丁可能导致一些 GPU 显卡的 DX9 出详情>>
距离 Microsoft Build 2022 开发者大会正式开幕还有 2 周左右时间,微软刚刚公开了本次大会的详细日程安排。 在为期 3 天的活动中, 微软共计将会举办 524 场不同主题的详情>>
Windows 11 22H2 有望在本月发布RTM(准正式)版本。在发布之前,微软在官方博客中介绍了一些新功能:更沉浸的Focus 体验、系统级别的实时字幕、更强大的语音访问工具以及更详情>>
微软本周宣布,Windows 10 v1909和20H2版本更新服务到期,将停止接收安全和质量补丁。 两者最后的“晚餐”分别对应KB5013945 (Build 18363.2274)和KB501394详情>>
在微软在Xbox自适应控制器和去年秋天推出的Surface自适应套件方面取得了成功并做了大量工作使各种能力的人都能使用计算和游戏之后, 该公司又迈出了新的一步,推出了为W详情>>
今年年初,微软就曾发布公告,宣布即将停止对Win10 20H2版本的系统支持。 今天, Win10 20H2包括家庭版、专业版、教育版、工作站版在内的所有版本,均正式终止服务。 详情>>
在今年 2 月发出提醒之后,微软今天宣布Windows 10 20H2功能更新正式停止支持。 该更新也称之为October 2020,于2020年9月正式发布,也是众多Windwos 10版本中最稳定的详情>>
《微软飞行模拟(Microsoft Flight Simulator)》于20年8月登陆PC平台,次年7月登陆Xbox Series X/S平台,并于今年2月于Xbox云游戏上推出。近日Xbox宣布《微详情>>
微软表示,预计将在近期通过更新完全解决最近的Xbox服务器故障。 周五,Xbox的支持团队首次承认了服务器问题,导致一些主机用户在四天内无法启动他们已经购买的游戏。详情>>
微软发布了一封电子邮件提醒Windows Insider Program的用户,不稳定和有缺陷的预览版很快就会在Dev Channel中开始推出。 虽然邮件中没有提到原因,但我们知道这是因为Wi详情>>
多方消息称,微软预计会在5月底之前签署Windows 11 22H2的RTM正式版。22H2的“交稿”也就意味着23H2开始提上日程,可是付诸Dev通道测试了。 事实的确如此。详情>>
据MSPoweruser报道,两年前,随着公司采用远程办公模式,出行限制改变了工作运作。现在,随着各行业逐渐恢复正常,不可否认的是,回归工作场所的过程中带着过去两年的教训。因此, 详情>>
对于Windows 11上用户不满意的任务栏体验,微软也是终于做出了妥协,决定撤回之前的更改。 Windows Latest 指出:几周前,微软对任务栏进行了修改,是的系统托盘弹出窗口中详情>>
光环世界锦标赛2022,是在《光环:无限》上进行首个职业比赛赛季,从去年12月开始,到今年10月结束,将举行8项赛事。但就像《光环:无限》自发行以来就面临着各种问题一样,光环世界详情>>
在今年的一月份,微软宣布计划以687亿美元的价格收购动视暴雪。自此之后微软也做出了一系列的规划。近日国外记者Jeff Grab发文称微软计划一年内推出支详情>>
在网吧里,电脑遇到了什么奇怪的性能或者 bug 问题,网管会让大家重启电脑,基本上能解决绝大多数问题,性能恢复如初,现在 Win11 也有类似的情况下了,那就是开机用久详情>>
微软正在努力实现跨平台的统一Outlook,作为其"OneOutlook"战略的一部分,该公司在过去几年中一直在讨论这个问题。该电子邮件客户端正在转向一个基于网络的平台,该公司称详情>>
诸位小伙伴估计脑子里要记住的密码可是越来越多了,不同平台不同网页甚至都要账号密码登录,简单的密码不安全,复杂的密码记不住,这个问题困扰了大家多年了,现在微软、谷歌、详情>>
原标题:真“表格游戏”,《EVE Online》宣布与微软 Excel 达成合作 IT之家 5 月 6 日消息,《EVE Online》是一款大型科幻 MMO 游戏,以其详情>>