챗봇 '챗GPT' 같은 인공지능(AI) 기술 덕분에 우리의 일상은 갈수록 편리함과 경이로움이 더해지고 있습니다.
이처럼 과연 멋진 세계만 펼쳐질까요
연합뉴스에 따르면 미국 일간 월스트리트저널(WSJ)의 IT 칼럼니스트 조안나 스턴은 28일(현지시간) 'AI로 나 자신을 복제했다. 그녀가 은행과 내 가족을 속였다'는 제목의 기사에서 AI로 만든 아바타가 초래할 부작용을 경고했습니다.
스턴은 지난 몇 개월간 영국 런던의 AI 스타트업 신세시아(Synthesia)의 프로그램을 활용해 'AI 아바타'를 만든 다음 이 AI 아바타에 챗GPT로 생성한 대사를 입력해 자신 대신 동영상 공유 사이트나 화상회의에 출연시켰습니다.
그랬더니 화상회의에서는 자신(진짜 사람)이 아니란 사실이 들통났지만, 상호작용이 상대적으로 적은 동영상 공유 사이트에선 비교적 쉽게 들키지 않았다고 그는 밝혔습니다.
스턴은 또 음성 AI 스타트업 일레븐랩스(ElevenLabs)의 프로그램으로 '음성 아바타'를 만든 뒤 가족을 대상으로 자신의 실제 목소리와 구분할 수 있는지 시험했습니다.
그 결과 스턴의 여동생은 AI로 생성된 목소리가 자신의 목소리와 매우 비슷하다는 반응을 보였고
스턴의 아버지는 사회보장번호를 묻는 AI 음성에서 녹음 같은 느낌을 받고 '뭔가 벌어졌다'는 정도만 알아챘을 뿐 스턴 본인의 목소리가 아니라고 눈치채진 못한 것으로 전해졌습니다.
스턴은 나아가 일레븐랩스 프로그램으로 생성한 AI 음성을 이용해 미 대형은행의 신용카드 관련 고객서비스를 이용해 본 결과 자동응답시스템이 AI 음성을 스턴 본인의 목소리로 인식했다며 악용 가능성이 있는 것이 현실이라고 우려했습니다.
은행 측 대변인은 신속한 업무를 위해 음성 생체인식 기술을 쓰고 있으며 고객이 금융 거래 등을 마무리하려면 추가 정보 제공이 필요하다고 강조했지만, 그런 정보가 유출된 상황이라면 보안이 뚫릴 위험성을 배제하기 힘들어 보입니다.
스턴은 신세시아 프로그램과 일레븐랩스 프로그램 모두 AI 아바타가 살해 위협 등 비윤리적이거나 사회적으로 문제가 될 수 있는 내용을 제한하지 않는다고도 지적했습니다.
Copyright@ KWANGJU BROADCASTING COMPANY. all rights reserved.
추천 기사
신민지 2024-05-19 22:17:01
사회
김호중, 사고 열흘 만 음주운전 결국 시인 "크게 후회"
음주 운전과 뺑소니 의혹을 받는 가수 김호중(33)이 사고 열흘 만에 음주운전 사실을 시인했습니다. 19일 김호중
디지털뉴스부 2024-05-19 19:01:29
사회
강릉서 '새벽 뺑소니' 의심사고..1명 숨져
강원도 강릉의 한 국도에서 뺑소니 의심 사망 사고가 발생해 경찰이 수사에 나섰습니다. 강릉경찰서에 따르면 1
디지털뉴스부 2024-05-19 16:50:01
사회
고가도로에서 오토바이 추락..1명 사망
서울의 한 고가도로에서 오토바이를 운전하던 남성이 도로 아래로 떨어져 숨졌습니다. 서울 용산경찰서 등에
디지털뉴스부 2024-05-19 15:10:01
사회
통영 앞바다 '낚시 어선' 침수, 23명 구조
통영 앞바다에서 낚시 중이던 어선이 침수돼 선장과 승객 등 23명이 해경에 구조됐습니다. 통영해양경찰서에는 1
임소영 2024-05-19 10:24:29
사회
'불륜 의심' 녹음어플로 몰래 녹음, 증거 인정될까?..대법 "증거능력 없다"
전남편 휴대전화에 스파이 앱 깔아 불륜 증거 확보.. 1·2심 '증거 인정'
대법원 "동의 없이 몰래 녹음한 파일, '감청'에 해당.. 증거능력 없어"
배우자의 불륜을 입증하기 위해 '스파이 앱'을 설치해 녹음한 파일은 재판에서 증거로 인정될까? 법원의 판단은
박성열 2024-05-16 15:21:14
스포츠
'2이닝 KKKKK'.."삼진 잡을 때 희열!" 광주일고 좌완 김태현
"항상 웃고 있는 투수가 되고 싶습니다." 호남 고교야구 유망주를 찾아 떠난 여정. 벌써 5번째인데요. 그간 인터
박성열 2024-05-10 13:31:15
스포츠
"5툴 플레이어 될 것!" 남다른 자신감, 광주일고 외야수 박헌
야구용어 '5툴 플레이어'가 있습니다. '파워, 주루, 컨택, 수비, 송구' 야수에게 중요한 5가지 능력을 모두 갖춘
박성열 2024-05-08 15:17:14
스포츠
"롤모델은 오승환!" 광주일고 투수 대어 류승찬
야구 명문인 광주제일고등학교에서 프로의 꿈을 키워나가고 있는 선수가 있습니다. 3학년 류승찬입니다. 키 188c
고우리 2024-05-07 13:46:26
스포츠
"결국 답은 정공법"..광주FC, '정효매직'으로 6연패 끊고 2연승
결국 이정효 감독의 정공법이 통했습니다. 6연패 수렁에 빠져 부진했던 광주FC가 5월 들어 2연승을 하며 분위기를
박성열 2024-04-30 16:00:02
스포츠
'나성범·문동주 후배'..광주진흥고 '정진우·김태현'을 주목하라!
'뱀직구' 임창용, '국대포수' 양의지, '나스타' 나성범, '160km/h' 문동주. KBO리그에서 이름 날린 선수들을 배출한 광
신민지 2024-05-19 20:35:08
사회
'의대 증원' 반영안 이번주 최종 확정 '주목'
늘어난 의대 모집인원을 반영한 '2025학년도 대학입학전형 시행계획'이 이번 주 최종 확정될 전망입니다. 대학별
디지털뉴스부 2024-05-19 08:26:23
사회
의대증원 학칙개정 부결 대학들…"조속한 마무리 진행"
법원이 의과대학 증원·배정 집행정지 신청을 기각하면서 각 대학들이 학칙 개정을 준비하고 있습니다. 또,
고영민 2024-05-17 10:36:35
사회
의대 증원 탄력 붙나? 전남대·조선대 비대위 "우려"
법원이 의과대학 증원·배정 결정 집행정지 신청을 받아들이지 않으면서 증원 절차에 속도가 붙을 전망입니
디지털뉴스부 2024-05-16 23:07:01
사회
전공의들 "오히려 기각이 낫다…병원 돌아갈 생각 없어"
법원이 의대 증원 효력에 대한 의료계의 집행정지 신청을 기각·각하했지만, 전공의들은 병원으로 복귀하지
디지털뉴스부 2024-05-16 17:54:25
경제
법원, 의대 증원 집행정지 신청 기각..27년 만에 의대 정원 늘어나나
의대 증원에 반발해 의료계가 낸 의대 증원 집행정지 가처분 신청을 법원이 기각했습니다. 서울고법 행정7부는 1
댓글
(0) 로그아웃