(圖/ MGBOX新聞網 AI圖片) OpenAI首席科學家Jakub Pachocki在美國OpenAI發布最新文章，警告AI能力快速提升後，遞歸自我改進（RSI）、AI對齊與模型監控正面臨新的安全挑戰，全球AI產業是否需要放慢尖端模型發展速度，再度成為焦點。 OpenAI AI安全正面臨一項新的發展矛盾：AI模型越來越強大，同時人類卻可能越來越難以確認模型究竟如何完成推理。OpenAI首席科學家Jakub Pachocki 9月6日發布〈An Alien Mind〉，從AI對齊與安全角度說明目前研究進展，並認為現有監控方法可能逐漸跟不上模型能力成長。...