行业动态普通
OpenAI 测试模型回答是否符合战争法
原始标题:Fortune: OpenAI now tests whether its models' answers obey the laws of war, because those models are going to the U.S. military.
内容摘要
OpenAI 因模型将用于美国军方,开始测试模型回答是否符合战争法。OpenAI 设立了首个的人权与负责任部署岗位,由曾在军方议题工作 30 年、6 月加入的 Sarah Yager 负责;国际专家向模型输入高风险作战提示词,工程师再根据回答与《日内瓦公约》的差距调整模型,Yager 称这种反向微调步骤此前从未被采取过。
内容分类人工智能行业动态
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:Rohan Paul (@rohanpaul_ai)
站内情报编号intel-4334a6995d87976dbe6a2cc7