AI 텍스트 판별기, OpenAI의 AI Text Classifier 사용 방법 및 후기

오픈 AI가 chatGPT 생성된 글들을 무더기로 복사 붙여 넣기 하는 것을 방지 또는 예방하기 위해 AI 텍스트 클래시파이어'(AI Text Classifier)를 공개했는데요 오늘은 이걸 직접 사용하는 방법과 사용후기를 공유하도록 하겠습니다.

 

 

얼마 전, 대화형 인공지능 챗봇인 챗GPT를 개발한 오픈AI에서 참 신기하고 재미있는 도구를 하나 더 공개했더라고요. 그 이름도 바로 'AI 텍스트 클래시파이어'(AI Text Classifier)! 이 도구는 이름 그대로 텍스트를 작성한 주체가 사람인지, 아니면 AI인지를 판별해 주는 역할을 하는데요. 사람이 썼을지도 모르는 글이 AI가 쓴 것이라면 그것을 알려준다는 뜻입니다.

 

물론, 이 도구가 완벽하다고는 할 수 없습니다. 오픈AI는 텍스트 클래시파이어가 언제나 정확하게 판별하는 것은 아니라며, AI와 사람이 쓴 텍스트 둘 다에 잘못된 레이블을 붙일 수 있다고 인정했습니다. 즉, 인간이 쓴 것과 AI가 쓴 것을 판별할 수 있다는 주장이지만, 언제든 오류를 범할 수 있다는 점을 강조했습니다.

 

1. AI 텍스트 클래시파이어는 어떻게 사용방법

AI Text Classifier에 접속하면 AI 텍스트 분류기 사용방벙에 대한 설명이 나온다.

 

그렇다면 이 AI 텍스트 클래시파이어는 어떻게 사용할까요? 간단합니다. 먼저, 오픈 API 계정을 만들고 AI 텍스트 클래시파이어 웹페이지(AI Text Classifier)에 로그인해야 합니다. 그 후 텍스트 입력 창에 검증하고 싶은 텍스트를 1,000자 이상 복사해서 붙여 넣으면 됩니다. 그리고 제출 버튼을 클릭하면 분석 결과가 곧장 나타납니다.

분석 결과는 5가지 형태로 출력되며, AI가 작성했을 가능성을 기반으로 등급을 나눈다고 합니다. 최고 등급인 0.98 이상의 임계값에서는 'AI 생성 가능성'이라는 결과가 나오며, 그 아래 등급에서는 '아마도 AI가 작성', 'AI 작성 여부 불분명', 'AI 생성 가능성 낮음', 그리고 'AI 생성 가능성이 매우 낮음'이라는 판단이 내려진다고 하는데요. 직접 사용해 보니 이게 영 믿음이 안 가기는 합니다. 

 

AI 텍스트 클래시파이어는 "어린이의 영어 문서나 영어가 아닌 텍스트에 대해 오류가 많아지는 한계가 있습니다. 사실, 자체 테스트에서도 사람이 작성한 텍스트 9%와 AI가 작성한 문서 26%를 'AI 생성 가능성'이 있다고 판별했다고 하니, 이 도구를 사용할 때에는 주의가 필요합니다." 라고 주최측에서 말한 것과 저의 경험은 조금 상반되는데요. 아래 AI 텍스트 클래시파이어 사용후기를 적어보도록 하겠습니다. 

 

2. AI TEXT CLASSIFIER 사용후기

저는 실제로 '이 글의 대부분을 챗GPT에게 생성해 달라고 말했고, 생성된 텍스트를 AI 텍스트 클래시파이어에 제출해봤습니다. 그 결과, '아마도 AI가 작성'이라는 판단이 나올 줄 알았는데 그렇지가 않더군요. 또 다른 블로그에 chat GPT복붙을 해서 작성한 영문 블로그 내용을 가져다 테스트를 해봤는데도  'AI 생성 가능성'이 낮다는 결과가 나왔습니다. 

 

ai가 생성한 글을 올린 블로그 글을 가지고 테스트해본 결과

다른 몇가지 테스트를 해봤지만 살짝만 우회를 하거나 프롬포터를 어떻게 제공하느냐에 따라 이 테스트 결과 값이 다르게 나올 수 있다는 것을 알게 되었습니다. 

그렇지만 반대의 경우도 있어서 주의가 요구되긴 합니다. 

사람이 작성한 문서를 AI가 작성한 것으로 잘못 판별하면 큰 혼란이 일어날 수 있습니다. 오픈AI는 이런 점을 인식하고 있어서, 이 도구가 학생들의 에세이, 자동 허위 정보 캠페인, 채팅 기록 등 다양한 주요 대상에 대해 신중하게 평가되지 않았음을 경고하고 있습니다. 그래서 현재 이 도구는 공개 액세스를 통해서만 사용할 수 있도록 제한하고 있습니다.

 

결론

AI 텍스트 클래시파이어는 완벽하지는 않지만, AI와 사람이 작성한 텍스트를 판별하는 참신한 도구인것은 사실입니다. 또한 앞으로 학습을 통해 더욱 발전해 나가겠지요. 그러나 여전히 오류 가능성이 있으니 사용할 때에는 신중해야 하겠습니다.

 

이상 글을 마치겠습니다. 읽어주셔서 감사합니다.

늘 건강하고 행복한 나날들이 되시길 기원합니다.