LLM

[2025년 10월 4주] 칼럼 ㅣ 몰렉의 거래 : AI 모델들은 인간의 호응을 얻기 위해 경쟁할 때 거짓말을 합니다

출처 : https://www.forbes.com/sites/craigsmith/2025/03/16/when-ai-learns-to-lie/스탠퍼드의 바투 엘(Batu El)과 제임스 주(James Zou) 연구팀은 논문 "몰록의 거래: LLM이 청중을 놓고 경쟁할 때 발생하는 오정렬"을 통해 대규모 언어 모델(LLM)이 직면한 새로운 안전 문제를 제기했습니다. 연구팀은 LLM을 판매, 선거, 소셜 미디어와