"AI안전"에 대한 통합검색 결과
통합검색(5)
경제(2)
검색결과 총 5건
미국 이민 단속 확대에 ‘특수’ 누리는 AI·컨설팅 기업들 미국 도널드 트럼프 2기 행정부의 강경한 이민 단속 기조가 본격화되면서 인공지능(AI)·컨설팅·건설·항공 중개 기업들이 대규모 정부 계약을 통해 수익을 확대하고 있다는 분석이 나왔다.영국 경제지 파이낸셜타임스(FT)는 29일(현지시간) 미국 정부 계약 데이터를 분석한 결과, 트럼프 대통령의 2기 집권 이후 약 1년간 이민 단속을 담당하는 미국 이민세관단속국(ICE)과 미국 세관국경보호국(CBP) 관련 계약을 통해 민간 기업들이 올린 매출이 220억달러(약 31조원)를 넘는 것으로 추산된다고 보도했다. AI·컨설팅 기업, 단속 시스템 핵심 파트너로 부상군사·기업용 AI 기업인 팔란티어는 지난해 1월 이후 ICE로부터 약 8천100만달러 규모의 계약을 수주한 것으로 집계됐다. 팔란티어는 불법 체류자 선별, 체포 절차 간소화, ‘자진 출국’ 추적을 위한 운영 시스템을 공급하며 이민 단속 인프라의 핵심 기술 파트너로 자리 잡았다.글로벌 컨설팅 기업 딜로이트 역시 같은 기간 ICE와 CBP로부터 약 1억달러 규모의 계약을 따냈다. FT는 딜로이트가 법 집행 시스템과 추방 작전 분석 역량을 강화하는 서비스를 제공하며 추가 계약을 확보했다고 전했다. 해당 계약에는 ICE 표적 운영 부서를 지원하기 위한 인터넷 리서치와 데이터 분석 서비스 조항도 포함된 것으로 알려졌다. 국경 장벽·추방 항공까지…수혜 기업 확대건설 분야에서는 피셔 샌드 앤 그래블이 최대 수혜 기업으로 꼽힌다. 이 회사는 지난해 7월 이후 CBP와 체결한 계약만 60억달러(약 8조6천억원)에 달하는 것으로 나타났다. 피셔 샌드 앤 그래블은 미국 남부 국경 장벽 건설에 참여한 업체로, 친트럼프 성향의 기업인이자 공화당 기부자인 토미 피셔가 대표를 맡고 있다.ICE 계약을 가장 많이 수주한 기업은 CSI에비에이션이다. 불법 이민자 추방을 위한 전세기 운항을 중개하는 이 회사는 지난해 1월 이후 12억달러(약 1조7천억원) 이상의 계약 실적을 기록한 것으로 파악됐다. “첨단 기술로 가혹한 단속 돕는다” 비판 확산이 같은 흐름을 두고 기술이 가혹한 이민 단속을 효율화하는 데 동원되고 있다는 비판도 커지고 있다. 팔란티어의 경우, 단속 효율을 높이는 시스템 공급 자체가 윤리적 논란을 낳고 있으며, 딜로이트 역시 추방 작전 분석을 강화하는 역할을 수행한다는 점에서 비판의 대상이 되고 있다. 두 회사는 관련 질의에 공식 입장을 밝히지 않았다고 FT는 전했다.기술 업계 내부 반발도 이어지고 있다. 구글과 아마존 등 주요 IT 기업 종사자 1천여 명은 이달 중순 공개서한을 통해, 업계 최고경영자들에게 이민 단속 관련 정부 계약을 중단하고 트럼프 행정부 정책에 반대 입장을 표명할 것을 촉구했다. 앤트로픽, AI 활용 범위 놓고 미 국방부와 충돌AI 안전성을 강조해온 ‘클로드’ 개발사 앤트로픽은 미 국방부와의 계약을 둘러싸고 갈등을 빚고 있다. 월스트리트저널(WSJ)에 따르면, 앤트로픽은 자사 AI가 자율 살상 작전이나 미국 내 감시 활동에 사용되는 데 반대하며, AI 활용 범위를 제한하는 계약 조항을 두고 미 국방부와 이견을 보이고 있다. 계약 취소 가능성까지 거론되는 상황이다. 이민 단속 예산 급증…논란은 현재진행형실제 예산 흐름도 단속 강화 기조를 뒷받침한다. FT에 따르면 ICE의 계약 관련 지출은 지난해 하반기 37억달러로, 같은 해 상반기(15억달러) 대비 두 배 이상 늘었다. 최근 미네소타주 미니애폴리스에서 ICE 요원의 총격으로 미국인 2명이 숨진 사건 이후 과잉 단속에 대한 반발이 미국 전역으로 확산하면서, 기술과 이민 정책의 결합을 둘러싼 논쟁은 더욱 거세질 전망이다. 
2026.01.30
‘정신건강 위험’ 비판받은 오픈AI, AI 안전 책임자 다시 모집 챗GPT 등 인공지능(AI) 챗봇이 정신건강에 부정적 영향을 미칠 수 있다는 비판에 직면한 오픈AI가 AI의 잠재적 위험을 총괄할 안전 책임자를 다시 모집한다.샘 올트먼 오픈AI 최고경영자(CEO)는 사회관계망서비스 엑스(X)를 통해 현재 공석 상태인 ‘준비 책임자(Head of Preparedness)’를 채용 중이라고 밝혔다. 이 소식은 테크크런치가 28일(현지시간) 보도했다. 정신건강·보안 영역에서 드러난 AI 위험올트먼 CEO는 “2025년에는 AI 모델이 정신건강에 미칠 수 있는 잠재적 영향을 이미 목격했다”며 “AI가 컴퓨터 보안 분야에서 매우 뛰어난 능력을 발휘해 중대한 취약점을 찾아내기 시작하는 모습도 보고 있다”고 설명했다.그는 AI 모델의 능력이 어떻게 악용될 수 있는지를 이해하고, 이를 정교하게 측정하는 역량이 어느 때보다 중요해졌다고 강조했다. “즉시 난제에 뛰어들게 될 역할”올트먼 CEO는 준비 책임자 직무에 대해 “중요한 시기에 핵심적인 역할을 맡게 된다”며 “스트레스가 상당하고, 부임 즉시 복잡하고 어려운 문제 속으로 뛰어들게 될 것”이라고 설명했다. 소송 잇따른 이후 재점화된 안전 논의오픈AI가 다시 AI 위험 대응 체계를 강화하려는 배경에는 챗GPT 이용자 일부가 망상 증세를 겪다 극단적 선택을 했다는 주장과 함께 유족들이 제기한 복수의 소송이 있는 것으로 풀이된다. 이와 관련해 AI 챗봇의 정신건강 영향에 대한 사회적 논의도 확산되고 있다. ‘준비’와 ‘초정렬’ 팀의 변화오픈AI는 그동안 단기적 위험을 다루는 ‘준비(Preparedness)’ 팀과 장기적 위험을 연구하는 ‘초정렬(Superalignment)’ 팀을 운영해 왔다. 그러나 지난해 5월 GPT-4o 출시 과정에서, 빠른 공개를 위해 안전 검증을 최소화하라는 경영진의 판단이 내부 반발을 불러온 것으로 알려졌다.이후 준비 팀 책임자는 지난해 7월부터 올해 7월까지 약 1년간 직무 재배치나 퇴사 등으로 세 차례 교체됐고, 현재 해당 직책은 공석 상태다. 초정렬 팀 사실상 해체공동창업자인 일리야 수츠케버 수석과학자가 이끌던 초정렬 팀은 GPT-4o 출시 직후 수츠케버가 퇴사하면서 다른 조직에 흡수되는 방식으로 지난해 5월 사실상 해체됐다. GPT-4o 이후 이어진 비판과 대응안전 검증이 충분하지 않았다는 지적을 받은 GPT-4o는 실제로 청소년 등 일부 이용자에게 정신건강 문제를 유발하고 있다는 비판을 받아왔다.이에 오픈AI는 최근 나이 예측 모델을 도입해 이용자가 미성년자로 판별될 경우 자동으로 ‘18세 미만’ 환경을 적용하고 있다. 또 챗봇의 과도한 공감과 동조가 중독을 유발할 수 있다는 문제 제기에 따라, 이용자가 ‘친절함’과 ‘열정적 반응’의 수준을 직접 조절할 수 있는 기능도 추가했다. AI 안전 체계 재정비 시험대AI의 영향력이 커질수록 정신건강과 보안 등 비기술적 위험에 대한 책임 역시 중요해지고 있다. 오픈AI의 이번 준비 책임자 재모집은 AI 안전 체계를 다시 정비하려는 시험대가 될 것으로 보인다.
2025.12.29
AI 부정행위, 명문대 잇단 적발 연세대와 고려대에서 잇따라 드러난 ‘AI 집단 부정행위’ 사태가 대학 교육의 구조적 결함을 드러내고 있다. 비대면·대형 강의가 급격히 늘어나고, 교수 관리가 느슨해진 틈을 타 인공지능이 부정행위의 촉매로 작용했다는 지적이다.고려대는 1천400명이 수강하는 비대면 교양과목 ‘고령사회에 대한 다학제적 이해’ 중간고사에서 일부 학생이 카카오톡 오픈채팅방을 통해 시험 문제를 공유한 사실을 확인하고, 시험을 전면 무효화했다. 학교는 “명문사학에서 이런 일이 발생한 것에 충격을 받았다”며 “부정행위를 묵과할 수 없다”고 밝혔다. 연세대 역시 AI 관련 교양수업에서 집단 부정행위 정황이 적발돼 ‘AI 윤리 긴급공청회’를 예고했다. 비대면·대형 강의의 폐해대학정보공시 ‘대학알리미’에 따르면 연세대의 200명 이상 대형 강의는 2020년 75개에서 지난해 104개로 늘었고, 원격 강좌는 올해 321개로 급증했다. 교수는 수백 명의 학생을 개별 관리하기 어렵고, 학생은 AI를 이용해 답을 찾는 유혹에 쉽게 노출되는 환경이 된 셈이다.서울의 한 사립대 교수는 “재정난으로 대형 강의를 늘리고, 비대면 강의가 비용 절감 수단으로 남으면서 학생 개개인에 대한 교육이 불가능해졌다”고 지적했다. AI, 학습 도구인가 부정의 통로인가연세대의 ‘자연어 처리와 챗GPT’ 수업에서는 600명 중 상당수가 AI를 이용해 중간고사를 치렀다. 한 학생은 “나만 AI를 안 쓰면 불리하다는 생각이 들었다”고 털어놨다. 교수는 영상 감시와 화면 녹화를 요구했지만, 학생들은 카메라 각도를 조정하거나 프로그램 창을 겹쳐 띄워 부정행위를 피했다.전문가들은 단순한 처벌보다 ‘새로운 학습 윤리 체계’ 확립이 필요하다고 말한다. 정기인 경희대 교수는 “걷는 법을 배우기 전부터 오토바이를 타는 격”이라며 “AI에 대한 비판적 사고 교육이 시급하다”고 강조했다. 대학의 자성 요구박남기 전 광주교대 총장은 “AI를 막을 수 없는 시대에, 학생이 성장할 수 있는 윤리적 활용 교육이 필요하다”고 말했다. 김명주 AI안전연구소장은 “대형 강의 확대가 부정행위의 온상”이라며 “대학 평가에서 페널티를 부과해야 한다”고 제언했다.
2025.11.11
역대급 긴 추석 연휴, 3218만명 대이동…40.9% '여행' 역대급으로 긴 추석 연휴 기간 동안 3천만명 넘는 국민이 국내외로 이동할 것으로 보인다. 국토교통부는 다음 달 2일부터 12일까지 11일간을 추석 연휴 특별교통 대책 기간으로 지정해 국민의 안전하고 편리한 귀성·귀경을 지원한다고 29일 밝혔다. 한국교통연구원 조사에 따르면 이 기간에는 귀성·귀경, 또는 여행 등으로 3218만명이 이동할 것으로 나타났다. 특히 추석 당일(10월 6일)에는 가장 많은 933만명이 이동할 전망이다. 다만 이번에는 연휴가 길어 이동 인원이 분산돼, 일평균 이동은 작년보다 2% 감소한 775만명으로 예측됐다. 국민의 40.9%는 추석 연휴 기간 여행을 계획 중인 것으로 조사됐다. 국내 여행이 89.5%, 해외가 10.5%으로 국내 이동 시 대부분 승용차(84.5%)를 이용할 것으로 예상됐다. 고속도로의 일평균 통행량은 이용객 분산으로 작년보다 2.4% 감소한 542만대로 예측됐다. 최대 통행량(667만대)이 몰릴 것으로 보이는 추석 당일은 작년(652만 대)보다 2.3% 증가할 것으로 보인다. 주요 도시 간 최대 소요 시간은 귀성은 10월 5일(서울→부산 8시간 10분), 귀경은 6일(부산→서울 9시간 50분) 나타날 것으로 예상된다. 귀성 방향은 작년보다 소요 시간이 5분 늘지만 귀경방향은 긴 귀경기간으로 40분 감소한다. 추석 연휴 기간 이동에 사용하는 예상 교통비용은 약 27만 8천원으로, 작년 설 연휴 기간보다 8천원 늘어날 것으로 예상됐다. 국토부는 이번 연휴 특별 교통 대책으로 차량 소통 강화, 이동 편의·서비스 확대, 교통안전 확보, 대중교통 증편, 기상악화 등 대응 태세 구축 등을 중점적으로 추진한다. 고속·일반국도 274개 구간(2186㎞)을 교통혼잡 예상 구간으로 선정해 차량 우회 안내 등을 통해 집중적으로 관리하고 고속도로 갓길차로 69개 구간(294㎞)을 운영한다. 일반국도 13개 구간(90㎞)을 신규 개통하고, 경부선 양재∼신탄진 구간의 버스전용차로를 평시 대비 4시간 연장 운영(10월 4∼9일 오후 9시→다음날 오전 1시)한다. 추석 전후로 나흘간(10월 4∼7일)은 고속도로 통행료가 면제된다. 졸음쉼터·휴게소를 추가 운영하며, KTX·SRT 역귀성 요금을 할인하고 교통약자 지원을 위한 철도 승차권 자동발매기를 시범 설치한다. 공항 혼잡도 완화를 위해 출국장을 최대 60분 일찍 열고, 주요 포털에 실시간 대기 상황을 공개한다. 공항 및 여객선 터미널의 임시주차장도 확보한다. 이용객 증가에 대비해 버스·철도 등의 운행 횟수와 좌석은 평소보다 각각 15.2%(3만6천687회), 11.9%(208만4천석) 늘린다. 도로·철도·항공·해운 등의 교통시설·수단에 대한 사전 안전 점검을 강화한다. 고속도로에서는 인공지능(AI) 기반 교통사고 위험 구간 관리를 확대하고 AI 안전띠 착용 여부(전 좌석) 검지 시스템을 운영한다. 엄정희 국토부 교통물류실장은 "모두에게 안전하고 편리한 귀성·귀경길을 위해 교통법규를 준수하며 안전운전 해 달라"며 "승용차를 운전해 이동하는 경우에는 출발 전에 교통정보를 미리 확인하시고 이동 중에도 도로 전광판 등을 통해 제공되는 실시간 교통안전 정보를 확인해 주시기를 바란다"고 말했다.
2025.09.29
'머스크 AI 기업' xAI, 고위 임원 줄줄이 퇴사…안정성 흔들리나 CFO·법무총괄·공동창업자 연쇄 사임일론 머스크가 이끄는 인공지능(AI) 기업 xAI에서 최근 최고재무책임자(CFO)를 비롯해 핵심 임원들이 잇따라 회사를 떠나며 경영 불안이 드러나고 있다. 3개월 만에 자리 비운 CFO월스트리트저널(WSJ)에 따르면, 에어비앤비 출신의 마이크 리베라토레 CFO는 지난 7월 말 회사를 떠났다. 지난 4월 부임 후 불과 3개월 만의 결정이다. 그는 xAI의 대규모 자금 조달과 데이터센터 확장 사업을 총괄해 왔으나 퇴사 배경은 공개되지 않았다. 법무총괄과 시니어 변호사 동반 퇴사법무를 책임졌던 로버트 킨 역시 지난달 7일 퇴사를 발표했다. 그는 “두 아이와 더 많은 시간을 보내고 싶다”는 이유를 들었지만, “머스크와의 세계관 차이”를 언급해 시선을 모았다. 마지막 게시물에는 xAI 챗봇 ‘그록(Grok)’이 생성한 ‘정장을 입은 남성이 미친 듯이 석탄을 퍼올리는’ 이미지를 올려 회사 분위기를 암시하기도 했다. 또한 거래 관련 법무를 담당하던 라구 라오 시니어 변호사도 비슷한 시기 회사를 떠난 것으로 알려졌다. 공동 창업자까지 떠난 xAI구글 딥마인드와 오픈AI 출신으로 xAI를 공동 설립한 이고르 바부슈킨은 지난달 13일 사임을 발표했다. 그는 AI 안전에 집중하는 벤처캐피털 설립 계획을 밝히며, “이토록 빠르게 최전선에 도달하는 것은 쉽지 않았다”고 회고했다. 이에 머스크는 “당신 덕분에 우리가 여기까지 올 수 있었다”며 이별 인사를 남겼다. X CEO 야카리노도 돌연 사임지난 7월에는 머스크의 또 다른 기업인 소셜미디어 플랫폼 X(옛 트위터)의 CEO 린다 야카리노도 자리를 내려놓았다. 이후 그는 디지털 헬스케어 기업 ‘e메드 인구 건강’ CEO로 자리를 옮겼다. 집단 이탈의 파장불과 몇 달 사이에 CFO, 법무총괄, 시니어 변호사, 공동 창업자, 그리고 X의 CEO까지 이탈하면서 xAI의 경영 안정성에 의문이 제기되고 있다. 회사 내부의 방향성, 조직 문화, 외부 압박 등 복합적인 요인이 작용했을 가능성이 있지만, 공식적인 설명은 부족하다. 머스크의 AI 야심이 중대한 시험대에 오른 셈이다.
2025.09.04
