TOPIC · SAFETY · 11 PAPERS

安全与可解释

大语言模型推理对齐智能体多模态视觉生成视觉理解与 3D 机器人与具身高效训练与推理安全与可解释 AI for Science 代码与软件工程评测与数据强化学习

近 30 天 11

#33 ▲270 ★175 ❝0 2026-10-09

S-Space: Exploring Spatial Workspace in Multimodal Language Models

发现多模态模型内部存在线性“空间工作区”S-Space，用连续坐标编码物体位置。

MirroS · Zhiyuan Shi, Xiang Li, Xingzhuo Guo +8

多模态安全与可解释 arXiv 代码 HF

#35 ▲273 ★18 ❝0 2026-09-24

Post-Training Leaves Behavioral Shadows on Unrelated Decisions

发现后训练会在无关输出上留下“行为影子”，每个提示只需教师一个词就能把能力迁移给学生。

Peking University · Ziyang Zhang, Yubin Jing, Yuanhao Zeng +3

大语言模型安全与可解释 arXiv 代码 HF

#101 ▲76 ★56 ❝0 2026-10-10

Last Secure Code Benchmark: Is the Code You Vibe Secure?

基于 150 个真实漏洞构建 450 个任务，检验编程 Agent“氛围编程”写出的代码是否安全。

Qwen · Tianyi Wu, Chao Ge, Peng Chen +12

代码与软件工程安全与可解释评测与数据 arXiv 代码 HF

#133 ▲110 ★23 ❝0 2026-10-15

Behavioral Compositionality of Sparse Autoencoder Representations

提出 SAR 指标，衡量稀疏自编码器特征在下游行为上能否“相加组合”，服务可解释性研究。

OpenSAE · Haotian Ma, Ziye Mei, Frederic Sala

安全与可解释 arXiv 代码 HF

#161 ▲72 ★13 ❝0 2026-09-27

TraceDance: An Automated System for Building Agent Behavior Benchmarks from Real-World Agent Deployment Traces

TraceDance 从真实部署轨迹中自动构建针对特定不良行为的 Agent 测试集。

ByteDance · Dehai Min, Daoan Zhang, Yiming Zeng +13

智能体评测与数据安全与可解释 arXiv 代码 HF

#170 ▲29 ★28 ❝12 2026-09-24

Just Ask Jev: Reinforcement Learning for Calibrated Decisions as a Zero-Shot Detector of AI Alignment Failures

测试经 RL 校准的决策模型 Jev 能否零样本检测谄媚、越狱、欺骗等十类对齐失败。

机构待核实 · Ruoqi Guo, Yi Liu, Gelei Deng +6

安全与可解释对齐 arXiv 代码 HF

#238 ▲85 ★5 ❝0 2026-10-06

DecepEval: A Benchmark for Evaluating Deception in LLM Agents

DecepEval 用 1532 个实例和“欺骗钻石”框架，评测 LLM Agent 在什么条件下更容易撒谎。

Xi'an Jiaotong University · Yiming Xu, Hongyue Yu, Beihua Yang +8

安全与可解释评测与数据智能体 arXiv 代码 HF

#266 ▲54 ★11 ❝0 2026-10-06

U-Space: Uncovering When and Why Uncertainty Arises in Language Models

U-Space 分析语言模型的不确定性在何时、为何产生，帮助判断单个回答是否可信。

Multimodal AI Lab - Technical University of Darmstadt · Tobias Braun, Nils Loose, Alexander Herzog +4

安全与可解释大语言模型 arXiv 代码 HF

#278 ▲55 ★6 ❝0 2026-10-15

Lexical Reference Frames: Interpreting LM Residual Streams in Native Semantics

提出“词汇参照系”，借模型自身后续层读出中间隐藏状态的含义，比 logit lens 等方法更忠实。

机构待核实 · Jian Gu, Hongyu Zhang, Chunyang Chen +1

安全与可解释大语言模型 arXiv 代码 HF

#298 ▲26 ★4 ❝0 2026-10-09

APEX-Harm: Evaluating Agent Safety in Shared Professional Workspaces

APEX-Harm 在含上百个文件的共享工作区里，测试金融、咨询、法律 Agent 抵御提示和脚本注入的能力。

King Abdullah University of Science and Technology · Ziyi Yang, Adel Bibi, Guohao Li +2

安全与可解释智能体评测与数据 arXiv 代码 HF

#300 ▲21 ★9 ❝0 2026-09-24

IndicBankBench: Evaluating Safety and Reliability of Language Model Assistants in Indian Retail Banking

IndicBankBench 用 799 个印度零售银行案例，分阶段评估银行助手的安全、工具调用和回答质量。

National Payments Corporation of India · Suvradip Paul, Chandra Bhushan, Harsh Sharma +4

安全与可解释评测与数据 arXiv 代码 HF

在归档中检索该主题 →