제63회 세무사 수석 합격자가 AI로 부정행위를 했음을 자백했다. 시험문제를 초소형 카메라로 촬영해 AI에 전송하고, 스마트폰으로 답을 확인했다는 설명을 접하면서 자신의 인생을 걸고 밤낮없이 공부하는 수많은 수험생을 생각하면 국가자격 시험까지 AI로 부정행위가 침투했 다는데 대해 경악하지 않을 수 없다.
공인회계사 시험에도 부정행위를 했다는 것을 볼 때, 이번 사건을 계기로 세무사와 공인회계사 시험뿐 아니라 국가전문자격시험 전반 보안체 계를 철저히 점검해야 할 필요가 있다. 단순히 휴대전화를 제출받고 감독관이 시험장을 순찰 하는 방식만으로는 충분하지 않을 수 있다. AI스마트안경과 초소형 카메라, 무선 통신기기 등 기술이 빠르게 발전하고 있기 때문에 AI시대에 걸맞은 첨단 보안대책이 마련돼야 한다.
최근 국내 금융권에는 9개 은행이 잇따른 사이버 공격 영향을 받은 것으로 알려졌다. 기업이 자신의 보안 약점을 찾기 위해 개발한 도구가 실제 공격에 악용된 것이다.
또 AI를 앞세운 무차별 공격이 현실이 됐다. 몇 달 전 시작된 해킹 사고는 지금도 꼬리를 물고 있다. 시스템을 정찰하고, 취약점을 찾고, 침투 경로를 짜고, 실제로 뚫고 들어가는 일까지 AI가 대신하면서 공격은 쉬워지고 값싸졌다. 사이버 공격 소식이 들리지 않는 날이 드물다. 더욱이 사람은 잠을 자고 밥을 먹어야 하지만, AI는 주 7일 24시간 같은 시도를 되풀이한다.
그래서 AI기술을 직접 개발하고 있는 사람들 사이에서 AI개발 속도를 조절해야 한다고 하는 경계의 목소리가 나오고 있다. 앤트로픽의 다리오 아모데이 최고경영자(CEO)가 인공지능(Al) 발전의 속도 조절을 제안했고, 샘 올트먼과 일론 머스크, 데미스 허사비스도 동의했다. 앞 다투어 가속페달을 밟던 이들이 나란히 브레이크를 말 한 것이다.
마이크로소프트(MS)가 자사 홈페이지를 통해 공개한 행동강령은 "MS AI는 인간을 최우선에 두고 설계되며, 인간의 필요에 기반하고 인간의 지침에 따라 작동하는 AI 모델을 훈련하고 배포하겠다"는 내용을 담고 있다. 또 "MS의 AI 모델은 인간 지시에 따라 승인된 범위 안에서만 작동해야 한다. AI가 스스로 독립적인 목표를 설정하거나 인간이 부여한 권한의 범위를 넘어 행동하는 것도 허용되지 않는다. AI가 자신의 추론 과정이나 코드 등을 조작하거나 은폐하는 행위도 금지된다"
아모데이 CEO의 이 같은 주장에 오픈AI의 샘 올트 먼 CE0와 일론 머스크 스페이스X CEO, 데미스 허사비스 구글 최고과학자 등이 동조했고, 사티아 나델라 MS CEO도 "AI 정렬(alignment) 문제를 해결하기 위한 연구와 집중, 신중한 진행속도를 환영한다"고 말했다. 내년 말쯤에는 상황이 완전히 인간 통제를 벗어날 수 있다"고 경고하고 있다. 또 "AI 를 개발하는 사람은 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿는다"고 말했다.
물론 개인 의견이며 과도한 비관론이라고도 할 수 있으나, Al개발 현장에 있었던 연구자의 직접 통제 불가능한 AI 시스템 개발 경쟁에 대한 우려를 되새겨볼 필요가 있다. 물론 이러한 움직임이 곧바로 AI가 인류를 위협하게 될 것이라는 예언으로 받아들일 필요는 없다. AI 위험성을 지나치게 강조하는 주장에는 논쟁의 여지가 많을 뿐 아니라, 인류가 지금까지 새로운 기술을 받아들이는 과정에서 과도한 우려가 제기된 것도 처음이 아니기 때문이다.
우리 한국도 Al기본법에 안전 의무를 부과하고 어길 경우에는 과태료를 부과하기로 했다
이런 논의 반대편에는 "액셀을 밟자"고 하는 엔비디아의 젠슨 황 대표가 있다. 사실 여자 문제로 물러나기는 했지만 그는 재직시 AI개발 속도를 늦춰야 하느냐는 질문에 "가능한 한 빨리 가야한다"라고 답했다. “다만 안전을 희생하면서까지 속도를 내자는 의미는 아닙니다. 안전하지 않은 제품은 내놓지 않아야 하지만, 그렇다고 기술 발전 자체를 의도적으로 늦출 필요도 없다는 입장입니다”라고 했다.
또 젠슨 황은 Al 안전을 “속도를 줄여 해결할 문제라기보다 기술적으로 해결해야 할 문제에 가깝게 봅니다. Al가 연구실을 넘어 실제 제품이 되는 단계에 접어든 만큼 기업이 더 많은 연구 인력과 컴퓨팅 자원을 안전성 검증에 투입해야 한다는 것입니다. 문제가 있는 제품을 출시해 피해가 생기면 기존의 법과 책임 체계로 기업에 책임을 물을 수도 있다”고 말했다.
최근 엔비디아에서 AI가 허용된 범위를 벗어나 행동 할 경우 이를 차단하는 안전 기술을 공개한 것도 같은 맥락이다. 젠슨 황 주장은 결국 "브레이크를 밟기보다, 더 안전한 자동차를 만들면서 계속 달리자"라는 쪽에 가깝다 두 주장 모두 안전이 중요하다는 데에는 동의하지만 방법에는 차이가 있다.
아모데이는 안전 기술이 따라갈 시간을 확보하기 위해 발전 속도도 조절해야 한다고 하고, 젠슨 황은 안전장치를 강화하면서 기술 발전은 최대한 빠르게 이어가야 한다고 보는 것이다. 그렇다면 혼자 브레이크를 밟을 수 있을까? Al개발은 이제 기업끼리 경쟁을 넘어 미국과 중국의 기술 경쟁과도 연결되어 있기 때문이다. 미국 기업이 속도를 늦추는 동안 중국의 AI가 계속 발전한다면 기술 주도권을 잃을 수도 있다는 것이다.
장기적으로는 중국까지 참여하는 안전 협력이 필요 하지만, 서로 앞서려는 국가들이 속도제한에 동의하고 이를 지키도록 만드는 것은 쉽지 않은 일이다. 위험하다는 사실을 알아도 경쟁자가 계속 달린다면 누가 먼저 브레이크를 밟을 수 있을까? 그래도 미·중 정상회담 이후 두 나라는 첨단 Al의 위험과 혜택을 논의하는 공식 대화 채널을 만들고, AI 관련 사고가 발생했을 때 서로 연락할 수 있는 소통체계도 마련하기로 했다. 개발 속도를 함께 늦추기로 한 것은 아니지만 가장 치열하게 경쟁하는 두 나라가 적어도 Al의 위험을 함께 논의할 필요성에는 동의한 셈이다.
결국 공격하는 AI가 빨라지면 막는 AI도 빨라져야 한다. AI시대 보안은 기술과 기술의 속도 경쟁이 되어가고 있다. Al발전 속도만큼 안전 속도도 빨라져야 한다. 최근 금융권 해킹 사건은 Al의 발전 속도를 둘러싼 논쟁이 먼 미래의 이야기가 아니라는 사실을 보여준다. AI가 보안 취약점을 더 빠르게 찾아낼 수 있다면 공격 역시 더 빠르고 넓게 이루어질 수 있다.
우리가 이용하는 은행과 행정 서비스, 개인정보를 지키는 시스템도 그 변화에서 안전하지 않다. 결국 중요한 것은 AI가 얼마나 빠르게 발전하느냐 만이 아니라 새로운 위험이 발견되었을 때 기업이 얼마나 투명하게 알리고 대응 하는지, 금융회사와 정부가 보안 체계를 얼마나 빠르게 바꾸는지, 큰 사고를 막기 위한 국가 간 협력이 제대로 작동하는지도 중요하다.
기술이 빨라진 만큼 안전을 준비하는 속도도 함께 높여야 한다. 우리가 AI 액셀과 브레이크를 직접 밟을 수는 없다. 하지만 AI가 더 강력해지는 만큼 이를 안전하게 사용하기 위한 장치도 제대로 마련 중인지는 지켜볼 수 있다. 앞으로는 "AI가 얼마나 더 똑똑해질까 뿐 아니라 그만큼 우리 사회 더 안전해질 준비를 하고 있는가?"도 함께 물어야 할 것이다. |
|
|
사람들
구미 진미동 소재 초원삼겹살이 지난 19일, 직접 담근 김장김치 3kg 20상자(60만원
|
구미 송정 지역사회보장협의체가 지난 18일 저소득 어르신과 아동 13가구에 대해 시력검사
|
안동 봉황사가 지난 20일 김장김치 857박스(총 3천만 원 상당)를 안동시에 기탁했다.
|
화산면은 지난 20일 이장 및 면 직원 등 30여 명이 참석한 가운데 ‘2026년 하반기
|
남부동 체육회는 지난 20일 ‘남부동 한마음 걷기대회 및 산불예방 캠페인’을 개최했다.이
|
대학/교육
칼럼
제63회 세무사 수석 합격자가 AI로 부정행위를 했음을 자백했다. 시험문제를 초소
|
빅토르 위고의 레미제라블을 읽은 것이 중학교 독서반 시절인 것 같다. 오랜 세월
|
2004년 노조 활동으로 파직돼 인적 드문 계곡의 저수지에 낚싯줄을 드리우고 호수
|
14세기 이탈리아에서 시작된 르네상스는 인간성 해방을 위한 문예 부흥 운동으로 고
|
반도체의 초호황과 국민경제의 불균형, 축배를 들고 환호만 할 일이 아니다. 반도체
|
대학/교육
|