这段代码是AI写的吗?SemEval 2026任务13赛事回顾

简介: 中国团队在SemEval 2026任务13的比拼中获佳绩

SemEval(International Workshop on Semantic Evaluation)系列研讨会由ACL(Association for Computational Linguistics、国际计算语言学协会)下设的SIGLEX特别兴趣小组每年赞助并举办,其宗旨是提高自然语言语义分析领域的SOTA水平、并协助创建相关领域的高质量数据集。

SemEval每年组织计算语义分析方面的一系列竞赛;来自世界各地的参赛团队展示并比较各自的参赛系统。竞赛结果于每年的SemEval会议上进行交流总结。

SemEval 2026的各项竞赛已经结束。今年的竞赛包括13个任务(Tasks,可以理解为竞赛分项);多数任务中还包括多个子任务(Subtasks/Tracks,可以理解为竞赛小项)。

本文简要回顾一下SemEval 2026中任务13的赛题和竞赛结果。

任务13

识别AI生成的文本已经得到不少研究,但如何识别AI生成的软件代码,相关的研究还不是很多。准确地识别AI生成的软件代码,对于教育场景中学生编程作业的评判、工作面试场景中求职人员提交代码的评测、开发场景中软件代码质量和安全性的保障等无疑会起到关键作用[1]。

识别AI生成的代码过去常依靠查看代码中的命名、格式等,然而较新的代码生成模型可以模仿人在代码命名、代码格式、代码注释、代码结构等方面的风格,从而使得过去比较简单的识别手段难以奏效。

在这样的背景下,SemEval 2026中的任务13围绕AI生成软件代码的自动识别,设立了以下三个子任务[1]。

子任务A(Subtask A)

子任务A要求自动判断一段软件代码是AI生成的、还是人编写的。

该子任务中的代码数据不仅涉及C++、Python、Java等多种编程语言,还包含算法代码(类似于LeetCode的解题代码)、通用代码等多种类型的代码。评测阶段的代码数据相比开发阶段,覆盖更多种编程语言及更多种类型的代码,以检验参赛系统应对新的代码数据的能力。

子任务B(Subtask B)

子任务B要求自动判断一段代码是人编写的、还是哪个系列的模型生成的;需要识别的模型系列包括DeepSeek、Qwen、Yi(即“01”系列)、BigCode(即“StarCoder”系列)、Gemma、Phi、LLaMA、IBM-Granite、Mistral、以及OpenAI(即“GPT”系列)。

评测阶段的代码数据相比开发阶段,在每个模型系列中采用了更多版本的模型来生成代码。

子任务C(Subtask C)

子任务C要求自动判断一段软件代码属于以下哪一类:(1)完全由人编写的代码、(2)完全由AI生成的代码、(3)由人编写但由AI部分完成或重写的代码、(4)由AI模型基于提示语或强化训练而生成的、近似于人的编写风格的代码。

以上3个子任务的评测指标均采用Macro-F1。该指标首先计算每个数据分类的F1,然后取各个数据分类F1的平均值。

任务13的3个子任务均发布在了Kaggle竞赛平台上。3个子任务分别吸引了81个、34个和32个团队参赛。

任务13的比赛结果、以及参赛团队的解题思路都是怎样的?敬请阅读本文的下半部分。

参考文献

[1] SemEval-2026 Task 13: Detecting Machine-Generated Code with Multiple Programming Languages, Generators, and Application Scenarios

https://aclanthology.org/2026.semeval-1.445/

文献使用许可协议:CC BY 4.0

https://creativecommons.org/licenses/by/4.0/

目录
相关文章
|
5天前
|
存储 弹性计算 缓存
阿里云服务器租赁费用:新版租赁收费标准及活动报价参考
本文更新了2026年阿里云全系列云服务器租赁活动报价,所有特惠资源均可前往阿里云活动中心选购,整体覆盖从个人入门到企业级高性能场景的全梯度需求。其中轻量应用服务器主打极致性价比,2核2G峰值200M带宽配置每日10点、15点限时抢购价仅38元/年,2核4G配置379元/年起;高性价比的经济型e实例、通用算力型u2i实例覆盖2核4G至4核32G全档位,适配开发测试与中小型企业业务;搭载英特尔至强6处理器的第九代c9i企业级实例算力较上代提升20%,支撑高并发生产环境,不同实例规格价差清晰,用户可根据自身业务负载与预算灵活选型。
1574 112
|
12天前
|
云安全 人工智能 运维
阿里云联动百位企业安全专家,共识Agent防御最佳实践
当Agent成为新员工,你的安全边界在哪里?
1941 8
阿里云联动百位企业安全专家,共识Agent防御最佳实践
|
6天前
|
人工智能 程序员 API
Codex 接入 DeepSeek-V4-Flash:还能补上识图,提供两套方案
Codex 接入 DeepSeek-V4-Flash 怎么配?本文覆盖 CLI 与桌面端,再用 qwen3-vl-flash 补识图,两套方案可直接照做
|
6天前
|
编解码 人工智能 安全
2核4G/4核8G/8核16G阿里云服务器如何选择实例?经济型e、通用算力型u2i与计算型c9i选哪个?
本文介绍了阿里云2核4G、4核8G、8核16G三档主流配置下经济型e、通用算力型u2i和计算型c9i三种实例的最新活动价格与适用场景。同配置下三者价差显著,以2核4G为例,经济型e低至599.93元/年,计算型c9i则高达1742.08元/年。文章详细解析了各实例的性能定位:经济型e适合轻负载入门场景,u2i兼顾稳定算力与性价比,c9i凭借第9代至强处理器与芯片级安全能力支撑高性能业务。同时提示用户可叠加满减优惠券享受折上折,建议根据业务负载与预算综合决策。
529 112
|
18天前
|
人工智能 前端开发 Linux
Codex 桌面版安装 + CC Switch 接入第三方 API 完整教程(2026 最新)
2026最新教程:手把手教你安装Codex桌面版,通过CC Switch v3.17.0一键接入Fenno等国产API(兼容OpenAI Responses格式),跳过账号登录,完整启用代码审查、多步任务与上下文感知功能。零基础友好,全程图文实操。(239字)
2567 4
|
10天前
|
存储 人工智能 关系型数据库
阿里云AI产品与云产品最新组合套餐:Token Plan、AI coding及云服务器和建站等组合优惠价
阿里云推出全新“算力+模型+应用”一站式云与AI组合套餐活动,覆盖从个人开发者到中大型企业的全场景需求。核心亮点为分三档定价的Token Plan订阅服务,支持Qwen3.8-Max-Preview大模型调用,错峰时段最低可享0.2折优惠。活动同步推出AI Coding、智能体部署、云电脑托管、0代码建站等十余类场景化组合,搭配99元/年的普惠云服务器、88元/年的入门数据库等经典特惠产品,还为企业提供1V1定制化AI转型方案,大幅降低了不同用户群体拥抱AI的技术门槛与采购成本。
721 111
|
20天前
|
人工智能 JSON 安全
Fastjson远程代码执行漏洞,阿里云AI安全为您保驾护航
阿里云AI安全产品联动防御Fastjson攻击
2636 13
Fastjson远程代码执行漏洞,阿里云AI安全为您保驾护航
|
6天前
|
人工智能 JSON Shell
2026AI漫剧本地全开源方案(附各个软件模型链接),8G显卡也能流畅运行
这是一套完全本地化部署的AI漫剧生成技术链路:涵盖LLM剧本分镜生成、FLUX文生图(IP-Adapter人脸锁定)、StoryDiffusion时序连贯控制、LTX-2.3唇形同步视频生成,及ComfyUI全流程调度。零云端费用,仅耗硬件算力,单集2–4小时可产出竖屏短视频,适配抖音/B站分发。
|
7天前
Qoder 一周年 × Qwen3.8-Max 正式上线,多重好礼限时领
8月3日,Qwen3.8-Max 正式上线Qoder,迎来Qoder一周年。新老用户可领800次免费调用,下单再赠2000次;夜间(22:00–08:00)调用5折;邀请好友双方得积分与调用额度。
448 1

热门文章

最新文章