"AI안전"에 대한 통합검색 결과
통합검색(4)
경제(2)
검색결과 총 4건
‘정신건강 위험’ 비판받은 오픈AI, AI 안전 책임자 다시 모집 챗GPT 등 인공지능(AI) 챗봇이 정신건강에 부정적 영향을 미칠 수 있다는 비판에 직면한 오픈AI가 AI의 잠재적 위험을 총괄할 안전 책임자를 다시 모집한다.샘 올트먼 오픈AI 최고경영자(CEO)는 사회관계망서비스 엑스(X)를 통해 현재 공석 상태인 ‘준비 책임자(Head of Preparedness)’를 채용 중이라고 밝혔다. 이 소식은 테크크런치가 28일(현지시간) 보도했다. 정신건강·보안 영역에서 드러난 AI 위험올트먼 CEO는 “2025년에는 AI 모델이 정신건강에 미칠 수 있는 잠재적 영향을 이미 목격했다”며 “AI가 컴퓨터 보안 분야에서 매우 뛰어난 능력을 발휘해 중대한 취약점을 찾아내기 시작하는 모습도 보고 있다”고 설명했다.그는 AI 모델의 능력이 어떻게 악용될 수 있는지를 이해하고, 이를 정교하게 측정하는 역량이 어느 때보다 중요해졌다고 강조했다. “즉시 난제에 뛰어들게 될 역할”올트먼 CEO는 준비 책임자 직무에 대해 “중요한 시기에 핵심적인 역할을 맡게 된다”며 “스트레스가 상당하고, 부임 즉시 복잡하고 어려운 문제 속으로 뛰어들게 될 것”이라고 설명했다. 소송 잇따른 이후 재점화된 안전 논의오픈AI가 다시 AI 위험 대응 체계를 강화하려는 배경에는 챗GPT 이용자 일부가 망상 증세를 겪다 극단적 선택을 했다는 주장과 함께 유족들이 제기한 복수의 소송이 있는 것으로 풀이된다. 이와 관련해 AI 챗봇의 정신건강 영향에 대한 사회적 논의도 확산되고 있다. ‘준비’와 ‘초정렬’ 팀의 변화오픈AI는 그동안 단기적 위험을 다루는 ‘준비(Preparedness)’ 팀과 장기적 위험을 연구하는 ‘초정렬(Superalignment)’ 팀을 운영해 왔다. 그러나 지난해 5월 GPT-4o 출시 과정에서, 빠른 공개를 위해 안전 검증을 최소화하라는 경영진의 판단이 내부 반발을 불러온 것으로 알려졌다.이후 준비 팀 책임자는 지난해 7월부터 올해 7월까지 약 1년간 직무 재배치나 퇴사 등으로 세 차례 교체됐고, 현재 해당 직책은 공석 상태다. 초정렬 팀 사실상 해체공동창업자인 일리야 수츠케버 수석과학자가 이끌던 초정렬 팀은 GPT-4o 출시 직후 수츠케버가 퇴사하면서 다른 조직에 흡수되는 방식으로 지난해 5월 사실상 해체됐다. GPT-4o 이후 이어진 비판과 대응안전 검증이 충분하지 않았다는 지적을 받은 GPT-4o는 실제로 청소년 등 일부 이용자에게 정신건강 문제를 유발하고 있다는 비판을 받아왔다.이에 오픈AI는 최근 나이 예측 모델을 도입해 이용자가 미성년자로 판별될 경우 자동으로 ‘18세 미만’ 환경을 적용하고 있다. 또 챗봇의 과도한 공감과 동조가 중독을 유발할 수 있다는 문제 제기에 따라, 이용자가 ‘친절함’과 ‘열정적 반응’의 수준을 직접 조절할 수 있는 기능도 추가했다. AI 안전 체계 재정비 시험대AI의 영향력이 커질수록 정신건강과 보안 등 비기술적 위험에 대한 책임 역시 중요해지고 있다. 오픈AI의 이번 준비 책임자 재모집은 AI 안전 체계를 다시 정비하려는 시험대가 될 것으로 보인다. 
2025.12.29
AI 부정행위, 명문대 잇단 적발 연세대와 고려대에서 잇따라 드러난 ‘AI 집단 부정행위’ 사태가 대학 교육의 구조적 결함을 드러내고 있다. 비대면·대형 강의가 급격히 늘어나고, 교수 관리가 느슨해진 틈을 타 인공지능이 부정행위의 촉매로 작용했다는 지적이다.고려대는 1천400명이 수강하는 비대면 교양과목 ‘고령사회에 대한 다학제적 이해’ 중간고사에서 일부 학생이 카카오톡 오픈채팅방을 통해 시험 문제를 공유한 사실을 확인하고, 시험을 전면 무효화했다. 학교는 “명문사학에서 이런 일이 발생한 것에 충격을 받았다”며 “부정행위를 묵과할 수 없다”고 밝혔다. 연세대 역시 AI 관련 교양수업에서 집단 부정행위 정황이 적발돼 ‘AI 윤리 긴급공청회’를 예고했다. 비대면·대형 강의의 폐해대학정보공시 ‘대학알리미’에 따르면 연세대의 200명 이상 대형 강의는 2020년 75개에서 지난해 104개로 늘었고, 원격 강좌는 올해 321개로 급증했다. 교수는 수백 명의 학생을 개별 관리하기 어렵고, 학생은 AI를 이용해 답을 찾는 유혹에 쉽게 노출되는 환경이 된 셈이다.서울의 한 사립대 교수는 “재정난으로 대형 강의를 늘리고, 비대면 강의가 비용 절감 수단으로 남으면서 학생 개개인에 대한 교육이 불가능해졌다”고 지적했다. AI, 학습 도구인가 부정의 통로인가연세대의 ‘자연어 처리와 챗GPT’ 수업에서는 600명 중 상당수가 AI를 이용해 중간고사를 치렀다. 한 학생은 “나만 AI를 안 쓰면 불리하다는 생각이 들었다”고 털어놨다. 교수는 영상 감시와 화면 녹화를 요구했지만, 학생들은 카메라 각도를 조정하거나 프로그램 창을 겹쳐 띄워 부정행위를 피했다.전문가들은 단순한 처벌보다 ‘새로운 학습 윤리 체계’ 확립이 필요하다고 말한다. 정기인 경희대 교수는 “걷는 법을 배우기 전부터 오토바이를 타는 격”이라며 “AI에 대한 비판적 사고 교육이 시급하다”고 강조했다. 대학의 자성 요구박남기 전 광주교대 총장은 “AI를 막을 수 없는 시대에, 학생이 성장할 수 있는 윤리적 활용 교육이 필요하다”고 말했다. 김명주 AI안전연구소장은 “대형 강의 확대가 부정행위의 온상”이라며 “대학 평가에서 페널티를 부과해야 한다”고 제언했다.
2025.11.11
역대급 긴 추석 연휴, 3218만명 대이동…40.9% '여행' 역대급으로 긴 추석 연휴 기간 동안 3천만명 넘는 국민이 국내외로 이동할 것으로 보인다. 국토교통부는 다음 달 2일부터 12일까지 11일간을 추석 연휴 특별교통 대책 기간으로 지정해 국민의 안전하고 편리한 귀성·귀경을 지원한다고 29일 밝혔다. 한국교통연구원 조사에 따르면 이 기간에는 귀성·귀경, 또는 여행 등으로 3218만명이 이동할 것으로 나타났다. 특히 추석 당일(10월 6일)에는 가장 많은 933만명이 이동할 전망이다. 다만 이번에는 연휴가 길어 이동 인원이 분산돼, 일평균 이동은 작년보다 2% 감소한 775만명으로 예측됐다. 국민의 40.9%는 추석 연휴 기간 여행을 계획 중인 것으로 조사됐다. 국내 여행이 89.5%, 해외가 10.5%으로 국내 이동 시 대부분 승용차(84.5%)를 이용할 것으로 예상됐다. 고속도로의 일평균 통행량은 이용객 분산으로 작년보다 2.4% 감소한 542만대로 예측됐다. 최대 통행량(667만대)이 몰릴 것으로 보이는 추석 당일은 작년(652만 대)보다 2.3% 증가할 것으로 보인다. 주요 도시 간 최대 소요 시간은 귀성은 10월 5일(서울→부산 8시간 10분), 귀경은 6일(부산→서울 9시간 50분) 나타날 것으로 예상된다. 귀성 방향은 작년보다 소요 시간이 5분 늘지만 귀경방향은 긴 귀경기간으로 40분 감소한다. 추석 연휴 기간 이동에 사용하는 예상 교통비용은 약 27만 8천원으로, 작년 설 연휴 기간보다 8천원 늘어날 것으로 예상됐다. 국토부는 이번 연휴 특별 교통 대책으로 차량 소통 강화, 이동 편의·서비스 확대, 교통안전 확보, 대중교통 증편, 기상악화 등 대응 태세 구축 등을 중점적으로 추진한다. 고속·일반국도 274개 구간(2186㎞)을 교통혼잡 예상 구간으로 선정해 차량 우회 안내 등을 통해 집중적으로 관리하고 고속도로 갓길차로 69개 구간(294㎞)을 운영한다. 일반국도 13개 구간(90㎞)을 신규 개통하고, 경부선 양재∼신탄진 구간의 버스전용차로를 평시 대비 4시간 연장 운영(10월 4∼9일 오후 9시→다음날 오전 1시)한다. 추석 전후로 나흘간(10월 4∼7일)은 고속도로 통행료가 면제된다. 졸음쉼터·휴게소를 추가 운영하며, KTX·SRT 역귀성 요금을 할인하고 교통약자 지원을 위한 철도 승차권 자동발매기를 시범 설치한다. 공항 혼잡도 완화를 위해 출국장을 최대 60분 일찍 열고, 주요 포털에 실시간 대기 상황을 공개한다. 공항 및 여객선 터미널의 임시주차장도 확보한다. 이용객 증가에 대비해 버스·철도 등의 운행 횟수와 좌석은 평소보다 각각 15.2%(3만6천687회), 11.9%(208만4천석) 늘린다. 도로·철도·항공·해운 등의 교통시설·수단에 대한 사전 안전 점검을 강화한다. 고속도로에서는 인공지능(AI) 기반 교통사고 위험 구간 관리를 확대하고 AI 안전띠 착용 여부(전 좌석) 검지 시스템을 운영한다. 엄정희 국토부 교통물류실장은 "모두에게 안전하고 편리한 귀성·귀경길을 위해 교통법규를 준수하며 안전운전 해 달라"며 "승용차를 운전해 이동하는 경우에는 출발 전에 교통정보를 미리 확인하시고 이동 중에도 도로 전광판 등을 통해 제공되는 실시간 교통안전 정보를 확인해 주시기를 바란다"고 말했다.
2025.09.29
'머스크 AI 기업' xAI, 고위 임원 줄줄이 퇴사…안정성 흔들리나 CFO·법무총괄·공동창업자 연쇄 사임일론 머스크가 이끄는 인공지능(AI) 기업 xAI에서 최근 최고재무책임자(CFO)를 비롯해 핵심 임원들이 잇따라 회사를 떠나며 경영 불안이 드러나고 있다. 3개월 만에 자리 비운 CFO월스트리트저널(WSJ)에 따르면, 에어비앤비 출신의 마이크 리베라토레 CFO는 지난 7월 말 회사를 떠났다. 지난 4월 부임 후 불과 3개월 만의 결정이다. 그는 xAI의 대규모 자금 조달과 데이터센터 확장 사업을 총괄해 왔으나 퇴사 배경은 공개되지 않았다. 법무총괄과 시니어 변호사 동반 퇴사법무를 책임졌던 로버트 킨 역시 지난달 7일 퇴사를 발표했다. 그는 “두 아이와 더 많은 시간을 보내고 싶다”는 이유를 들었지만, “머스크와의 세계관 차이”를 언급해 시선을 모았다. 마지막 게시물에는 xAI 챗봇 ‘그록(Grok)’이 생성한 ‘정장을 입은 남성이 미친 듯이 석탄을 퍼올리는’ 이미지를 올려 회사 분위기를 암시하기도 했다. 또한 거래 관련 법무를 담당하던 라구 라오 시니어 변호사도 비슷한 시기 회사를 떠난 것으로 알려졌다. 공동 창업자까지 떠난 xAI구글 딥마인드와 오픈AI 출신으로 xAI를 공동 설립한 이고르 바부슈킨은 지난달 13일 사임을 발표했다. 그는 AI 안전에 집중하는 벤처캐피털 설립 계획을 밝히며, “이토록 빠르게 최전선에 도달하는 것은 쉽지 않았다”고 회고했다. 이에 머스크는 “당신 덕분에 우리가 여기까지 올 수 있었다”며 이별 인사를 남겼다. X CEO 야카리노도 돌연 사임지난 7월에는 머스크의 또 다른 기업인 소셜미디어 플랫폼 X(옛 트위터)의 CEO 린다 야카리노도 자리를 내려놓았다. 이후 그는 디지털 헬스케어 기업 ‘e메드 인구 건강’ CEO로 자리를 옮겼다. 집단 이탈의 파장불과 몇 달 사이에 CFO, 법무총괄, 시니어 변호사, 공동 창업자, 그리고 X의 CEO까지 이탈하면서 xAI의 경영 안정성에 의문이 제기되고 있다. 회사 내부의 방향성, 조직 문화, 외부 압박 등 복합적인 요인이 작용했을 가능성이 있지만, 공식적인 설명은 부족하다. 머스크의 AI 야심이 중대한 시험대에 오른 셈이다.
2025.09.04
