초정렬에 대한 통합검색 결과 - SNN 서울뉴스네트워크

"초정렬"에 대한 통합검색 결과

통합검색(1)

경제(1)

검색결과 총 1건

샘 올트먼 오픈AI 최고경영자(CEO)는 사회관계망서비스(SNS) 엑스(X)에 현재 공석인 '준비 책임자'(Head of Preparedness)를 모집하고 있다고 밝혔다

‘정신건강 위험’ 비판받은 오픈AI, AI 안전 책임자 다시 모집 챗GPT 등 인공지능(AI) 챗봇이 정신건강에 부정적 영향을 미칠 수 있다는 비판에 직면한 오픈AI가 AI의 잠재적 위험을 총괄할 안전 책임자를 다시 모집한다.샘 올트먼 오픈AI 최고경영자(CEO)는 사회관계망서비스 엑스(X)를 통해 현재 공석 상태인 ‘준비 책임자(Head of Preparedness)’를 채용 중이라고 밝혔다. 이 소식은 테크크런치가 28일(현지시간) 보도했다. 정신건강·보안 영역에서 드러난 AI 위험올트먼 CEO는 “2025년에는 AI 모델이 정신건강에 미칠 수 있는 잠재적 영향을 이미 목격했다”며 “AI가 컴퓨터 보안 분야에서 매우 뛰어난 능력을 발휘해 중대한 취약점을 찾아내기 시작하는 모습도 보고 있다”고 설명했다.그는 AI 모델의 능력이 어떻게 악용될 수 있는지를 이해하고, 이를 정교하게 측정하는 역량이 어느 때보다 중요해졌다고 강조했다. “즉시 난제에 뛰어들게 될 역할”올트먼 CEO는 준비 책임자 직무에 대해 “중요한 시기에 핵심적인 역할을 맡게 된다”며 “스트레스가 상당하고, 부임 즉시 복잡하고 어려운 문제 속으로 뛰어들게 될 것”이라고 설명했다. 소송 잇따른 이후 재점화된 안전 논의오픈AI가 다시 AI 위험 대응 체계를 강화하려는 배경에는 챗GPT 이용자 일부가 망상 증세를 겪다 극단적 선택을 했다는 주장과 함께 유족들이 제기한 복수의 소송이 있는 것으로 풀이된다. 이와 관련해 AI 챗봇의 정신건강 영향에 대한 사회적 논의도 확산되고 있다. ‘준비’와 ‘초정렬’ 팀의 변화오픈AI는 그동안 단기적 위험을 다루는 ‘준비(Preparedness)’ 팀과 장기적 위험을 연구하는 ‘초정렬(Superalignment)’ 팀을 운영해 왔다. 그러나 지난해 5월 GPT-4o 출시 과정에서, 빠른 공개를 위해 안전 검증을 최소화하라는 경영진의 판단이 내부 반발을 불러온 것으로 알려졌다.이후 준비 팀 책임자는 지난해 7월부터 올해 7월까지 약 1년간 직무 재배치나 퇴사 등으로 세 차례 교체됐고, 현재 해당 직책은 공석 상태다. 초정렬 팀 사실상 해체공동창업자인 일리야 수츠케버 수석과학자가 이끌던 초정렬 팀은 GPT-4o 출시 직후 수츠케버가 퇴사하면서 다른 조직에 흡수되는 방식으로 지난해 5월 사실상 해체됐다. GPT-4o 이후 이어진 비판과 대응안전 검증이 충분하지 않았다는 지적을 받은 GPT-4o는 실제로 청소년 등 일부 이용자에게 정신건강 문제를 유발하고 있다는 비판을 받아왔다.이에 오픈AI는 최근 나이 예측 모델을 도입해 이용자가 미성년자로 판별될 경우 자동으로 ‘18세 미만’ 환경을 적용하고 있다. 또 챗봇의 과도한 공감과 동조가 중독을 유발할 수 있다는 문제 제기에 따라, 이용자가 ‘친절함’과 ‘열정적 반응’의 수준을 직접 조절할 수 있는 기능도 추가했다. AI 안전 체계 재정비 시험대AI의 영향력이 커질수록 정신건강과 보안 등 비기술적 위험에 대한 책임 역시 중요해지고 있다. 오픈AI의 이번 준비 책임자 재모집은 AI 안전 체계를 다시 정비하려는 시험대가 될 것으로 보인다.

13시간 전