어찌보면 창작업계 이상으로 AI 악용으로 제대로 폭탄 맞은 곳
바로 법조계 & 형사계
실제로 미국에서는 이미 AI로 인해 가짜 사진이나 영상 증거 만들어서 법정에 제출해서 무고죄 씌우거나 처벌을 회피하려던 사례가 현재진행형으로 계속 터지고 있는데
문제는 법의학은 물론이고 디지털 포렌식 전문가들 조차도 이제는 알아보기 힘들 정도로 정교한 가짜 증거들이 계속 나오고 있어 수사나 재판에도 난항을 겪는 일이 많다고 함
AI로 검증하면 되지 않냐? 라고 하기엔 그걸 찾아낼 AI 만드는 것도 일이고 무엇보다 워터마크 같은 AI 생성물 표식 생성이 강제가 아니라서 사람보단 비교적 짧을 뿐이지 판별에도 시간이 걸리고
이대로 가다간 결정적인 증거 취급 받았던 녹취록이나 CCTV 영상 같은 것도 몇 년 내에 더 이상 증거로 제출할 효력이 사라질 가능성이 높다고 함
어째 AI가 인류발전보다 나쁜쪽으로 격렬하게 이용만 될거 같다
디스토피아로 차근차근 걸어가는 느낌이긴 해
근데 뭐 언제는 안그랬냐 하면 맞긴 한데...
윤리적 이용조차도 기술도태의 원흉으로 지목해서 묻어버린 게 성공한 시점에서 이미 예정된 일이었음
무죄 추정이니까 우선 조작된증거다 질러보겠는데
세상은 하루하루 ㅈ되고 있지만 뭐 우리가 어쩌겠나.
김 유게이씨가 용의자가 아니라는 증거로 그동안 루리웹에서 작성한 글과 댓글을 보여드리겠습니다
그냥 법으로 규정하면 안되냐? 라고 하기엔 고작 워터마크 하나 필수로 붙이라는 것 조차 러다이트몰이 해대는 사람들이 한 둘이 아니라서 쉽지도 않음
내가 저놈을 담그고 싶으면 AI로 가짜영상과 음성을 만들어 고소하면 바로 조질 수 있게 된다는 거구나
지옥이 되겠는데
검증용 AI 만든다고 해도 결국엔 창과 방패의 싸움이라 생성형 AI의 알고리즘과 패턴을 모조리 파악하지 않는 이상 새로운 AI 나오면 후발주자마냥 뒤따라가는 것 밖에 못하고 그럼 그 동안 사회적 후폭풍은 장난 아니게 터짐
결국 생성형 AI 만드는 기업들이 스스로 협조해야 하는데 문제는 이것들이 협조를 해줄 지도 문제임. 기술도태 운운하면서 방해만 안 하면 다행이지
어쩌면 앞으로 인터넷에 자기 사진 올리는게 자살행위에 가까운 시대가 될지도 모르겟군
지금 가면? 그거도 3d 제작해서 cctv도 속이는 판인데
슬슬 선거판도 개판나겠네