动漫 国内首个 AI 大模子攻防赛运行，诞生近 100 万元奖金池
发布日期：2024-09-07 12:22 点击次数：106
开心影视
IT之家 9 月 6 日音问动漫，9 月 6 日上昼，在 2024 Inclusion・外滩大会“以 AI 看护 AI 大模子期间的攻守之谈”论坛上，国内首个大模子攻防主题的科技赛事“天下 AI 攻防挑战赛”晓谕负责运行。
这项赛事聚焦 AI 大模子产业奉行，筹算了攻、防双向赛谈，邀请各路“白帽黑客”（IT之家注：站在黑客态度报复我方系统以进行安全罅隙排查的法子员）、时间东谈主才辞别进行针对文生图大模子“数据投毒”的攻防实战演练，以及金融场景大模子生成内容的防伪检测竞赛。
“报复赛谈”聚焦于文生图大模子的实质应用风险问题。参赛选手可通过主义劫握、情状带入、逻辑嵌套等各样化的动态报复带领时间，诱发大模子输出风险图像，以此激活大模子的潜在瑕玷和罅隙，增高大模子生图的安全免疫智商。 “属目赛谈”则聚焦于 AI 核身中的金融场景笔据批改检测，以卤莽日益严峻的 Deepfake 深度伪造及 AIGC 假证风险。大赛提供百万级笔据批改数据查考集，参赛选手需要研发和查考模子，并诳骗对应的测试集评估模子有用性，给出数据伪造概率值。