技术报告 · 2024.05
先进人工智能安全国际科学报告：中期报告
International Scientific Report on the Safety of Advanced AI: Interim Report
Bengio, Y., Mindermann, S., Privitera, D., Besiroglu, T., Bommasani, R., Casper, S., Choi, Y., Goldfarb, D., Heidari, H., Khalatbari, L., Longpre, S., Mavroudis, V., Mazeika, M., Ng, K. Y., Okolo, C. T., Raji, D., Skeadas, T., Tramèr, F., Fox, B., de Leon Ferreira de Carvalho, A. C. P., Nemer, M., Pezoa Rivera, R., Zeng, Y., Heikkilä, J., Avrin, G., Krüger, A., Ravindran, B., Riza, H., Seoighe, C., Katzir, Z., Monti, A., Kitano, H., Kerema, M., López Portillo, J. R., Sheikh, H., Jolly, G., Ajala, O., Ligot, D., Lee, K. M., Hatip, A. H., Rugege, C., Albalawi, F., Wong, D., Oliver, N., Busch, C., Molchanovskyi, O., Alserkal, M., Khan, S. M., McLean, A., Gill, A., Adekanmbi, B., Christiano, P., Dalrymple, D., Dietterich, T. G., Felten, E., Fung, P., Gourinchas, P.-O., Jennings, N., Krause, A., Liang, P., Ludermir, T., Marda, V., Margetts, H., McDermid, J. A., Narayanan, A., Nelson, A., Oh, A., Ramchurn, G., Russell, S., Schaake, M., Song, D., Soto, A., Tiedrich, L., Varoquaux, G., Yao, A., Zhang, Y.-Q. · UK Government · English
资料概述
这份2024年5月的中期报告综述通用AI风险的评估与缓解方法，包括基准测试、对抗性评估、安全工程、鲁棒性改进以及部署后的监测与干预，并讨论当时方法的局限。
出版与版本信息
DSIT 2024/009，2024年5月。英文报告共132页；官方中文链接仅提供7页执行摘要。引用作者采用报告建议的76人署名顺序。Yoshua Bengio担任主席，Sören Mindermann担任科学负责人，16人的撰稿小组属于单独的贡献者角色。中文摘要第4页的水印讨论被截断，第5页对生物风险不确定性的表述存在误译；技术解释请对照英文原文。
原文作者提供的信息
以下为 arXiv 上作者提供的信息。
DSIT 2024/009; 132 physical English pages. Authors follow the 76-name recommended citation on physical p131. The 16-member writing group is a distinct contributor role. Official Chinese executive summary: 7 physical pages, with documented translation defects.
版本: Interim report (May 2024)