AI판사에 대한 영화 ‘노 머시’에 관한 글을 썼었다. 우리 일상생활에서 AI활용은 이제 없어서는 안 될 정도로 삶속으로 깊숙이 파고들었다. 간단한 검색에서부터 의학상식, 글쓰기, 음악 만들기, 그림그리기, 변호사 역할 등 다양한 분야에서 비서 노릇을 해주고 있다.
‘AI 환각(hallucination’이 문제가 되고 있다. AI는 모르는 내용을 항상 ‘모르겠다’고 대답하지 않는다. 때로는 존재하지 않는 사실을 매우 그럴듯하게 만들어 낸다. 이 과정에서 실제로 존재하지 않는 판례까지 만들어 내기도 하는데, 이런 판결을 인용한 서면이 제출되는 경우가 종종 발생하고 있는 것이다. 법원 입장에서는 과거에는 판결이 인용됐을 경우 당연히 그런 취지의 판결이 있을 것을 신뢰해 판단 했지만, 이제는 그런 판결이 있는지 까지 일일이 검증해야 하게 된 것이다.
실제 국내에서도 생성형 AI가 만들어 낸 판례를 인용해 제출한 서면을 제출받은 재판부에서 당사자에게 그런 판례를 인용하게 된 경위를 소명할 것을 요구하기도 했고, 법원에서는 AI를 활용해 작성한 서면의 경우 그 활용 사실을 기재하도록 하는 방안도 검토하고 있다.
얼마 전에는 인도 대법원이 판결 하나를 통째로 뒤집었다. 그 이유는 하급 법원이 판결문에 인용한 판례 다수가, 세상에 존재하지 않는 판례였기 때문이다. 인공지능(AI)이 그럴듯하게 지어낸 가짜 판례를 판사와 변호사가 베껴 쓴 결과였다. 대법원은 이를 법치의 전복이라며 무관용을 선언했다. 가짜 판례는 치명적 독가스와 같아서, 한 번 새어 나오면 사법체계 전체를 오염시킨다는 게 대법원의 경고였다.
뮌헨 법정에서도 이정표가 될 판결이 나왔다. 구글 검색 상단의 AI 개요(AI Overviews)가 한 인물에 대한 허위 사실을 노출한 뒤, 명예훼손 소송이 걸린 것이다. 구글은 "우리는 기술을 제공했을 뿐"이라며 면책을 주장했지만, 법원은 받아들이지 않았다. AI가 출력한 문장은 구글 자신의 발언이라는 것이다. 구글은 정보 유통자가 아니라 책임을 지는 발행자로 규정됐다. 알고리즘이 말할 때, 진짜 발언자는 기술이 아닌 그 뒤에 숨은 주인이라는 엄중한 선언이었다.
미국 캘리포니아주는 아예 입법으로 쐐기를 박았다. 민사소송에서 AI가 자율적으로 저지른 일이라는 변명 자체를 금지했다. 문제는 여기서 그치지 않는다. AI기술 발전은 진실조차 의심받도록 하고 있다. 이제 사진 한 장과 10초짜리 음성 클립만 있으면 온라인에서 얼마든지 변신이 가능하다. 지금 순간에도 사회관계망서비스(SNS)에서는 가짜 전투, 가짜 사고, 가짜 인물이 끊임없이 등장하고 순식간에 퍼진다. 또 AI는 인간이 오랫동안 독점했던 지식의 희소성을 무너뜨림으로써, 글쓰기, 번역, 코딩, 분석을 넘어 AI 에이전트가 업무를 수행하고, 피지컬 AI와 로봇은 공장∙물류∙건설∙서비스 현장으로 들어왔다.
우리는 역사 상 가장 보호받은 세대를 2세로 키우고 있다. 과보호에 대한 문제점은 학폭 외톨이 달달 외우는 천재 양산 등 많지만 그 중에서도 인간의 불편함을 제거해주는 AI때문에 성공이든 실패든 경험을 쌓을 수 없다는 것이다. 금융교육에 있어서도 아이들은 수학 문제를 틀리지 않는 법은 배우지만 돈을 잃어보는 경험은 거의 하지 않는다. 자산과 부채를 제대로 이해하지도 못한 채 사회로 나와 처음으로 거대한 금융시장을 만난다. 그래서 어릴 때 용돈 1만 원을 잘못사용하며 배워야 할 교훈을 마흔이 돼 1억 원을 잃고 나서 배우는 게 현재의 모습이다. 과거의 아이들은 뛰다가 넘어지고, 또래와 다투고, 어른의 일을 따라 하며 살아가는 법을 배웠고, 어린 나이부터 가족의 일을 서로 도우며 자신의 선택에 책임지는 경험을 했다.
우리 인간은 수십만 년 동안 작은 실패를 경험하면서 위험으로부터 회피하는 방법을 배워왔다. 그런데 불과 몇 십 년 사이 교육의 방향이 달라졌다. 넘어질까 봐 뛰지 못하게 하고, 상처받을까 봐 경쟁을 없애며. 실패할까 봐 부모가 아이들 일에 개입한다. 운동회에서 순위를 없애고 친구와 갈등이 생기면 부모가 해결하며, 이제는 성인이 된 자녀의 취업과 연봉 협상까지 부모가 나서기도 한다. 이젠 지식도 .선생님에게 배우는 것이 아니라 손에 들고 있는 스마트폰 AI에게 물어보고 배우니 지식을 위해서는 선생님이 필요 없다. AI가 누구에게나 90점짜리 답을 만들어주는 시대에는 달달 외우는 것을 잘하는 아이보다 질문하는 능력과 문제를 정의하는 실력, 막연한 성공을 향한 기대보다는 자신이 무엇을 원하는지, 목표가 무엇인지를 아는 것이 더 필요할 것이다. 부모가 물려줘야 할 중요 한 자산은 완벽하게 닦아놓은 길이 아니라 스스로 길을 찾는 힘을 길러주는 것이다. 인간은 위험을 경험하고 극복하면서 진화했는데, 이렇게 보호만 받으며 자란 아이들이 살아갈 미래는 너무나 불투명하다. AI가 세상의 불편함을 없애는 시대일수록 부모까지 아이의 모든 불편함을 해결해 주어서는 안 된다. 미래의 가장 큰 격차는 지식이 아니라, 스스로 살아갈 수 있는 능력일 것이다.
여기서 AI윤리 문제를 살펴볼 필요가 있다.
첫째, AI는 데이터로 학습한다. 만약 학습 데이터에 특정 성별, 인종, 지역에 대한 사회적 편견이 담겨 있다면, AI는 그 편견을 그대로 학습하고 심지어 증폭시킬 수도 있다. 이는 채용, 대출 등에서 불공정한 차별로 이어질 수 있다는 심각한 우려를 낳는다.
둘째, AI, 특히 거대언어모델(LLM)은 성능을 높이기 위해 방대한 양의 데이터를 필요로 한다. 이 과정에서 개인 동의 없이 정보가 수집되거나, 수집된 데이터가 원래 목적과 다르게 사용될 위험이 있다. 스마트 스피커, CCTV 등 우리 주변의 모든 기기가 데이터 수집 장치가 되면서 프라이버시 문제는 더욱 중요해졌다.
셋째, AI가 특정 결정을 내렸을 때, 왜 그런 결정을 내렸는지 인간이 이해하기 어려운 경우가 많다. AI 판단 근거를 알 수 없다면, 우리는 그 결과를 신뢰하기 어렵고 오류가 발생했을 때 수정하기도 힘든다. 특히 의료나 금융처럼 중요한 분야에서는 AI 결정 과정의 투명성을 확보하는 것이 필수적이다.
넷째, 자율주행차가 사고를 냈을 때, 그 책임은 누구에게 있을까? 자동차 소유자, 자동차 제조사, 아니면 AI개발사일까? AI가 내린 결정으로 인해 피해가 발생했을 때 법적, 윤리적 책임을 누구에게 물을지 명확한 기준이 아직 정립되지 않았다.
다섯째, AI와 자동화 기술은 반복적 업무를 넘어 전문직 영역까지 대체할 가능성을 보여준다. 이는 생산성 향상이라는 긍정적 측면도 있지만, 대규모 실업과 특정 기술을 가진 사람과 그렇지 않은 사람 사이의 소득 격차를 심화시킬 수 있다는 우려도 공존한다.
여섯째, AI 기술은 가짜뉴스, 딥페이크(진짜처럼 보이는 합성 영상·음성), 여론 조작 등 사회적 혼란을 야기하는 데 악용될 수 있다. 누구나 쉽게 진짜 같은 가짜 콘텐츠를 만들 수 있게 되면서, 사회적 신뢰를 무너뜨리고 민주주의를 위협할 수 있다 |
|
|
사람들
임고면 바르게살기운동위원회는 지난 3일 회원 30명이 참여한 가운데 자호천 솔밭 캠핑장
|
영천시자원봉사센터에서 운영하는 도담도담 가족봉사단 14가족 40명은 지난 3일 생활 속
|
봉화 물야 체육회가 지난 2일 생활체육공원에서 2026년 물야면 한마음 체육대회를 개최했
|
상주시가 2026년 마당제를 현지에서 지난 2일 봉행했다.
|
군위 소보 새마을지도자회와 새마을부녀회가 새마을 환경살리기 운동의 일환으로 농약빈병 모으
|
대학/교육
|
대구시-대구 교육청, ‘교육혁신선도지역’ 지정 공동신청 |
|
대구보건대-법무법인 그날, 상호 교류·협력 업무협약 |
|
대구한의대, 몽골 인플루언서와 K-뷰티·경북 관광 알린다 |
|
국립경국대 예천캠퍼스, Y·E·S Local Bridge 개강식 |
|
경산교육지원청, '세대공감 소통UP, 존중UP 거꾸로 멘토링' |
|
시도 교육감, 민주당 김민석 대표 만나 '지방교육재정 개편안 재검토' 촉구 |
|
계명대 교수들 제36회 과학기술우수논문상 동시 수상 |
|
예천교육지원청, 하반기 행정실장 회의 개최 |
|
DGIST 창업기업 엠에프알, 포스코 무인화 사업 뚫었다 |
|
대구공업대 헤어디자인과, 배움·재능나눔 봉사활동 |
칼럼
AI판사에 대한 영화 ‘노 머시’에 관한 글을 썼었다. 우리 일상생활에서 AI활용
|
데카르트(Rene Descartes)가 두터운 중세의 문 앞에서, “나는 생각한다
|
죽은 자는 반론할 수 없다. 자신이 왜 죽었는지, 누가 자신을 죽였는지, 자신이
|
영화 ‘인턴’이 개봉 첫날부터 천만 영화 ‘오디세이’를 제치고 박스오피스 1위에
|
추석 명절이다. 가을이 깊어지고 보름달이 차오르면 사람들은 고향을 찾아가는 국민
|
대학/교육
|
대구시-대구 교육청, ‘교육혁신선도지역’ 지정 공동신청 |
|
대구보건대-법무법인 그날, 상호 교류·협력 업무협약 |
|
대구한의대, 몽골 인플루언서와 K-뷰티·경북 관광 알린다 |
|
국립경국대 예천캠퍼스, Y·E·S Local Bridge 개강식 |
|
경산교육지원청, '세대공감 소통UP, 존중UP 거꾸로 멘토링' |
|
시도 교육감, 민주당 김민석 대표 만나 '지방교육재정 개편안 재검토' 촉구 |
|
계명대 교수들 제36회 과학기술우수논문상 동시 수상 |
|
예천교육지원청, 하반기 행정실장 회의 개최 |
|
DGIST 창업기업 엠에프알, 포스코 무인화 사업 뚫었다 |
|
대구공업대 헤어디자인과, 배움·재능나눔 봉사활동 |
|
2402호
','https://www.smnews.co.kr/default/index_view_page.php?idx=304705','AI판사에 대한 영화 ‘노 머시’에 관한 글을 썼었다. 우리 일상생활에서 AI활용은 이제 없어서는 안 될 정도로 삶속으로 깊숙이 파고들었다. 간단한 검색에서부터 의학상식, 글쓰기, 음악 만들기, 그림그리기, 변호사 역할 등 다양한 분야에서 비서 노릇을 해주고 있다.','https://www.smnews.co.kr/data/newsThumb/1791249801ADD_thumb580.jpg');){kind=small}
