[인공지능AI #7] 오픈AI 사람의 목소리만 있으면 모방 가능한 '보이스 엔진' 개발

오픈AI는 올해(24년) 3월 29일 자사 블로그를 통해 인조 음성의 도전과 기회 탐색하기라는 제목의 게시물을 통해 보이스 엔진의 사전 실험 결과를 공개를 했는데요~

• 이 보이스 엔진은 15초 또는 15분 분량의 음성 샘플만 있으면 사람의 음성을 학습해 비슷한 음성을 만들 수 있다고 합니다.

그리고

2022년 말 보이스 엔진을 처음 개발하고,

2년도 안 되어서 올해 3월 29일 공개한 실제 사람의 음성 샘플과 이를 이용한 보이스 엔진으로 생성한 음성은 거의 구분이 어려울 정도로 비슷하다고 하네요~

그래서

회사 측은 인조 음성 기능의 잘못 사용될 가능성이 있어서 출시에 대해서는 조심스럽게 접근하고 있으며,
현재 이 기술을 미리 보여주기만 하고, 아직 출시는 하지 않기로 했습니다.

그리고

오픈AI는 실시간 개인 맞춤형 응답 생성 기능, 어린이 교육을 위한 음성 해설 콘텐츠, 동영상과 팟캐스트 등의 콘텐츠를 여러 언어로 번역하는 기능 등을 긍정적으로 보고 있는 것 같습니다.

제 기준에서는 오픈AI가 사람의 목소리를 흉내 낼 수 있는 보이스 엔진을 판매를 시작한다면...
좋은 곳보다는 나쁜 곳에 많이 사용되지 않을까 생각이 듭니다.

그리고
딥페이크 (AI로 만든 영상, 이미지, 음성 조작물)로 인해 피싱 범죄가 많아질 테고...
이제는 어느 누구도 믿을 수 없는 세상이 될 가능성도 있을 수 있습니다.

또한,
현재 중국에서는 고인이 된 사람의 사진과 목소리만으로 AI로 만든 영상이 판매 중이긴 합니다.

.
.

하여튼...

인공지능 AI 발전은 좋긴 하나 이 부분에 대해서 관련 법안과 피싱 범죄를 막을 수 있는 방안들이 빠르게 나와야 하고,

그런 부분이 빠르게 나오지 않는다면...

각자 도생으로 피싱 범죄에 노출되지 않게 조심해야 되지 않을까 싶습니다.

---

• [인공지능AI #1] 인공지능(AI)으로 대체되는 상담원 및 KB국민은행 하청 콜센터 직원 240명 해고
  [인공지능AI #2] 농업, 식품 분야에서도 인공지능(AI) 이물질 선별기가 개발이 되다.
  [인공지능AI #3] 네이버 클라우드는 초, 중, 고등학교에 인공지능(AI) 디지털 교과서 서비스 개발 지원 예정

• [인공지능AI #4] 삼성전자도 후공정 공장을 2030년까지 '완전 무인화' 계획 예정
  [인공지능AI #5] 동영상 만들어주는 오픈AI '소라' 올해(24년) 하반기부터 일반인도 사용 예정
  [인공지능AI #6] 중국, 고인을 AI로 영상을 복원해서 판매중이다.

---

24.04.22

.