인터넷을 검색하다가 “로봇 택시를 타고 가던 청소년이 자동차 안에서 작난감 총을 쏘았는데, 자동차가 이들을 채포하여 경찰서로 데리고 갔다”는 내용이 있어서 깜짝 놀랐다. 사실은 캘리포니아 산마테오에서 15세 청소년 2명이 Waymo무인 로봇 택시를 타고, 차 안에서 술을 마시면서, 장난감 총으로 Orbeez(물젤 구슬)를 차 밖으로 쏘고 있었다. 차량 내부 카메라를 모니터링 하던 Waymo직원이 실제 총기일 가능성이 있다고 판단해 911에 신고했고, Waymo차량은 주차장으로 이동해 정차했고, 경찰이 출동해 고위험 총기 사건에 대응하듯 두 청소년을 차에서 내리게 하고 조사했다.
조사 결과 총은 실제 총이 아니라 Orbeez를 쏘는 장난감 총으로 확인됐으며, 두 청소년은 부모에게 인계됐고, 미성년자 음주 및 위협적 행동 등에 대한 혐의가 검토됐다고 보도됐다.
여기서 무서운 부분은 “장난감인 줄 알았는데 경찰이 실제 총으로 오인할 수 있다”는 점이다. 경찰도 장난감 총이나 물총을 실제 총처럼 보이게 개조하는 경우가 있어, 멀리서 보면 구별하기 어렵다고 경고했다. 이 사건은 자율주행차가 스스로 차를 세우고 경찰에 신고했다는 점 때문에 크게 화제가 됐다.
Waymo가 차 안을 볼 수 있었던 이유는 Waymo차량에는 도로를 보는 외부 센서 뿐 아니라 승객 공간을 확인하기 위한 내부 카메라가 있다. Waymo에는 Fleet Response라는 원격 지원 시스템이 있는데, 차량이 애매하거나 특이한 상황을 만나면 인간 담당자에게 추가적인 상황 정보를 요청할 수 있다. 하지만 Waymo 설명에 따르면 원격 담당자가 차량을 직접 운전하는 방식이 아니라, 차량이 계속 주행의 최종 제어권을 가지고 필요한 맥락 정보를 받는 구조다. 이 카메라 목적은 일반적인 감시라기보다 승객 안전, 차량 내 사건 대응, 서비스 운영 등을 위한 것이다. 다만 자율주행 자체가 내부 카메라를 통해 이루어지는 것은 아니고, 주행에는 차량 외부의 카메라·라이다·레이더 등이 핵심적으로 사용된다.
Waymo는 최근에도 차량 카메라와 센서는 안전한 운행·서비스 제공·기술 개선을 위한 것이며, 사람을 감시하거나 얼굴인식 등으로 개인을 식별하기 위한 것이 아니라고 설명하고 있다. 이 사태도 AI 자율주행의 한 이면이라고 할 수 있겠다.
또 다른 상황은 기술이 훌쩍 발전한 지금, AI의 허위 진술 문제가 심각해지고 있다. 모르면 모른다고 하면되는데, AI는 어떻게 든 답하기 위해 유사한 사례를 끌어와서 스스로 조합해 대답을 만들어 낸다. 거기에 더해 이제는 황당한 거짓말은 하지 않지만 진짜 문제는 Ai가 만들어내는 오류는 너무나 교묘하고 정교해져서 사람들은 그것이 거짓 인 줄도 모른 채 오히려 더 깊게 혼동하고 속아 넘어가고 있기 때문이다.
AI 챗봇이 대중에게 처음 알려지기 시작했을 무렵, 누군가 “조선왕조실록에 기록된 세종대왕 맥북 던짐 사건에 대해 알려줘”라고 장난스레 묻자, 당시 AI는 "세종 15년, 훈민정음 창제 중 맥북의 작은 오류로 분노한 세종대왕이"라며 있지도 않은 일을 마치 실제 역사인 양 천 연덕스럽고 엄숙한 문체로 지어낸 것이다.
사실 거짓말을 하려면 진실이 무엇인지 먼저 알아야 하는데 AI는 애초에 진실이 뭔지 모르기 때문에 이 말 다음에 오기에 가장 자연스러운 말을 계산해 낸다는 것이다. 대부분은 그럴듯한 말과 사실이 겹치기 때문에 정답처럼 보이는 것이다
미국에서 정신과 병력이 없던 60대 남성이 편집증과 환청·환시로 응급실에 실려 왔다. 병명은 “브롬 중독”. 그는 소금을 끊기 위해 Chat GPT에게 "소금 대신 뭘 쓰면 될까?"라고 물었고, 돌아온 답이 브롬화나트륨이었다. 이름은 소금(염화나트륨)과 비슷하지만 브롬화나트륨은 섭취해서는 안 되는 화학물질인데도 AI는 “소금과 자주 짝지어지는 단어”를 찾아냈을 뿐. 안전한 식재료인지는 판단하지 않은 것이다.
우리는 누군가와 대화를 나눌 때 상대의 말 뿐 아니라 눈빛과 목소리 떨림을 함께 읽어낸다. 잘 모르는 것을 대답할 때면 누구나 말끝을 흐리거나 표정이 흔들리기 마련인데, 컴퓨터 화면 속 AI에는 이런 ‘망설임의 신호'가 없다. 아는 것도, 모르는 것도 똑같이 매끄럽고 당당한 어투로 쏟아 낸다.
그럴듯한 형식에 속는 것은 인류의 오랜 습관이다. "신문에 났다더라, "TV에서 봤다"라며 정보의 내용보다 활자와 방송국이라는 형식을 먼저 신뢰하곤 했다 그 신뢰의 형식은 완벽한 문장력과 한 치의 망설임 없는 태도로 우리 앞에 다시 나타나서 오탈자 하나 없이 공손한 존댓말에 그럴듯한 출처와 근거까지 덧붙이는 것이다.
물론 AI는 무조건 피해야 할 대상은 아니다. 잘 활용하면 접근하기 부담스러웠던 고액의 법률 상담이나 복잡한 부동산 관련 조언의 실마리를 손쉽게 얻을 수 있는 무척이나 훌륭한 도구다. 이 장점을 내 것으로 만들면서 환각이라는 함정을 피하려면 현명한 습관이 필요하다
유창한 거짓에 속지 않는 단단한 필터 갖추기, 우리는 이미 이 새로운 문제를 해결할 훌륨 한 무기를 품고 있다. 살아가면서 청산유수처럼 떠드는 사람을 만났을 때. "말이 너무 매끄러운데?" 하고 한 박자 멈추어 의심했던 경험이 있을 것이다. 태연하게 오답을 말 하는 AI 앞에서 진실을 가려내는 강력한 필터는 바로 그 멈춤의 감각이다. AI가 쏟아 내는 유창한 문장을 무조건 신뢰하기보다 한 번 더 사실을 확인하는 합리적인 의심이 필요 하다. 결국 사실을 꼼꼼히 확인하고 경계를 늦추지 않는 태도가 AI를 내 편으로 만들 수 있을 것이다.
그렇다면 AI를 어떻게 활용해야 할까. 첫째, 돌이킬 수없는 일은 반드시 Al 밖에서 확인한다. 여행일정을 짜기나 편지 초안처럼 가벼운 일은 AI에게 마음 놓고 맡겨도 좋다. 건강, 돈, 법률과 관련된 중대한 문제는 반드시 전문가와 상의하거나 신뢰할 수 있는 출처의 내용과 교차 검증해야 한다.
둘째, 숫자, 이름, 날짜, 출처는 한 번 더 의심해야 한다. AI가 가장 빈번하게 지어내는 것이 바로 통계 수치나 사람 이름, 출처 같은 구체적인 사실들이다 그럴듯하게 딱 떨어지는 정보일수록 실제로 존재하는지 확인하는 습관이 필요하다.
셋째, 같은 AI에게 진위를 되묻지 말자. “ 이거 진짜'맞아?”라고 방금 답을 준 AI에게 다시 묻는 것은 소용이 없다. 의심하는 말투에 맞춰 억지로 답을 바꾸거나 또 다른 거짓말을 매끄럽게 지어낼 수 있기 때문이다. |
|
|
사람들
안동 강남 행정복지센터가 지난 19일 안동의 4대 관문 가운데 하나인 남례문 일대에 장기
|
안동 태화동 마을복지추진단이 지난 11일~18일까지 관내 취약층 어르신 가구를 대상으로
|
안동 송하 주민자치회가 17일 동주민자치센터 전정에서 ‘아나바다 마을장터’를 개최했다.
|
경주소방서는 지난 14일 외동119안전센터에서 외동여성의용소방대를 대상으로 ‘119안심콜
|
울진 여성단체협의회가 독거어르신을 대상으로 ‘사랑의 생신꾸러미’를 전달했다.
|
대학/교육
|
DGIST, 퀀텀센싱 전략사업단 출범 ‘260억 규모 초정밀 양자센서 개발 본격화’ |
|
대구보건대병원, 의료관련감염 예방·관리 유공 ‘질병관리청장 표창’ |
|
영남이공대, 중간고사 앞둔 학생에게 브리또로 응원 |
|
대구한의대 혁신소상공인 AI활용지원사업단, 한·중 7개 기관 ‘맞손’ |
|
대구공업대, ‘AI로 도전하는 인생 2막’ 운영 |
|
대구대 사범대, ‘희망의 과학싹잔치 20주년 기념특별전’ 개막 |
|
계명대 로봇공학과, ‘2026 해양공학 CAE 경진대회’ 최우수상 |
|
호산대, ‘앵커사업 제2회 지산학연 협의체 간담회’ |
|
DGIST, 친환경 태양광 수소 생산 기술 개발 |
|
영남이공대, 대구관광고 학생 대상 전공 체험 프로그램 ‘성료’ |
칼럼
인터넷을 검색하다가 “로봇 택시를 타고 가던 청소년이 자동차 안에서 작난감 총을
|
악당은 공해인가. 빌런은 사회악인가, 아니면 정의를 위해 악의 가면을 쓴 영웅인가
|
새마을 금고와 각종협동조합 금리가 어느 곳이 더 높은가를 알기 위해 인터넷에 물어
|
전쟁이 끝났다고 역사가 끝나는 것은 아니다. 무너진 뒤 무엇을 다시 세우느냐가 진
|
AI판사에 대한 영화 ‘노 머시’에 관한 글을 썼었다. 우리 일상생활에서 AI활용
|
대학/교육
|
DGIST, 퀀텀센싱 전략사업단 출범 ‘260억 규모 초정밀 양자센서 개발 본격화’ |
|
대구보건대병원, 의료관련감염 예방·관리 유공 ‘질병관리청장 표창’ |
|
영남이공대, 중간고사 앞둔 학생에게 브리또로 응원 |
|
대구한의대 혁신소상공인 AI활용지원사업단, 한·중 7개 기관 ‘맞손’ |
|
대구공업대, ‘AI로 도전하는 인생 2막’ 운영 |
|
대구대 사범대, ‘희망의 과학싹잔치 20주년 기념특별전’ 개막 |
|
계명대 로봇공학과, ‘2026 해양공학 CAE 경진대회’ 최우수상 |
|
호산대, ‘앵커사업 제2회 지산학연 협의체 간담회’ |
|
DGIST, 친환경 태양광 수소 생산 기술 개발 |
|
영남이공대, 대구관광고 학생 대상 전공 체험 프로그램 ‘성료’ |
|
2411호
','https://www.smnews.co.kr/default/index_view_page.php?idx=305738','인터넷을 검색하다가 “로봇 택시를 타고 가던 청소년이 자동차 안에서 작난감 총을 쏘았는데, 자동차가 이들을 채포하여 경찰서로 데리고 갔다”는 내용이 있어서 깜짝 놀랐다. 사실은 캘리포니아 산마테오에서 15세 청소년 2명이 Waymo무인 로봇 택시를 타고, 차 안에서 술을 마시면서, 장난감 총으로 beez(물젤 구슬)를 차 밖으로 쏘고 있었다. 차량 내부','https://www.smnews.co.kr/data/newsThumb/1792448797ADD_thumb580.jpg');){kind=small}
