최근 AI 기술, 특히 ChatGPT와 같은 생성형 AI의 사용이 급증하고 있다. “한 번도 사용하지 않은 사람은 있어도, 한 번만 사용한 사람은 없다”는 말이 있을 정도로 AI 도구는 일상과 업무에 빠르게 스며들고 있다. 필자 또한 프로그래밍 작업에서 AI를 활용해 코드 작성 능률을 크게 향상시킬 수 있었다.
과거에는 원하는 정보를 찾기 위해 구글 검색을 활용해야 했고, 몇 분 만에 답을 얻기도 했지만, 때로는 하루 종일 시간을 소비하는 경우도 있었다. AI 기술을 사용하면 검색 시간을 획기적으로 단축할 수 있으며, 추가적인 질문을 통해 더 구체적인 결과를 얻을 수도 있다. 하지만 AI가 제공하는 정보가 100% 신뢰할 수 있는 것은 아니라는 점을 항상 유념해야 한다. AI는 의도치 않게 내용을 왜곡하거나 중요한 정보를 누락할 수 있기 때문이다.
따라서 AI를 사용할 때는 그 한계점과 문제점을 인지하고 신중하게 활용해야 한다. 그렇다면 AI를 사용할 때 어떤 점을 주의해야 할까?
AI 기술의 한계와 문제점
최근 Columbia Journalism Review(CJR)에서 발표한 연구에 따르면, AI 기반 검색 엔진들이 뉴스 콘텐츠를 인용하는 방식에 심각한 문제점이 있는 것으로 나타났다. 주요 내용은 다음과 같다.
1. 부정확한 응답 제공
AI 검색 엔진들은 높은 비율로 부정확한 응답을 제공하는 것으로 조사되었다. 예를 들어, Perplexity는 37%의 오류율을 기록했으며, Grok 3는 무려 94%에 달하는 높은 오류율을 보였다. 이는 AI가 제공하는 정보의 신뢰성에 대한 의문을 제기하는 결과다.
2. 자신감 있는 오류
대부분의 AI 도구들은 부정확한 정보를 제공하면서도 마치 사실인 것처럼 자신감 있게 답변하는 경향이 있다. 예를 들어, ChatGPT는 200개의 응답 중 134개에서 부정확한 정보를 제공했지만, 그중 단 15번만 자신감 부족을 나타냈다. 이는 사용자가 AI의 답변을 맹목적으로 신뢰할 경우, 잘못된 정보를 사실로 받아들일 위험이 있다는 점을 시사한다.
출처 : Columbia Journalism Review
3. 로봇 배제 프로토콜 무시
여러 AI 검색 도구들이 웹사이트의 robots.txt 파일에 명시된 크롤링 제한을 무시하고 콘텐츠에 접근한 사례가 발견되었다. 이는 AI가 온라인상의 정보를 수집하는 과정에서 윤리적 문제를 야기할 수 있음을 의미한다.
4. 가짜 링크 생성 및 부정확한 출처 표시
일부 AI 검색 엔진들은 존재하지 않는 링크를 생성하거나, 원본 기사가 아닌 복제된 버전의 기사를 출처로 표시하는 등 부정확한 정보를 제공하는 문제가 있었다. 이는 뉴스 및 정보 소비에 있어 신뢰할 만한 출처를 확인하는 것이 더욱 중요해졌음을 보여준다.
5. 콘텐츠 라이선스 계약의 한계
일부 AI 챗봇은 뉴스 소스와 라이선스 계약을 체결했음에도 불구하고, 정확한 인용을 보장하지 못하는 경우가 있었다. 이는 AI가 정보를 가져오는 방식이 여전히 완벽하지 않다는 점을 시사한다.
AI 기술을 사용할 때 고려해야 할 점
AI 기술은 강력한 도구이지만, 다음과 같은 점을 유의하여 활용해야 한다.
1. 정보의 정확성 검증: AI가 제공하는 정보를 무조건 신뢰하지 말고, 원본 출처를 확인하는 습관을 들이자.
2. 중요한 의사 결정에는 신중함 필요: AI의 답변을 참고하되, 중요한 결정은 추가적인 검토와 전문가의 의견을 반영하여 내리는 것이 좋다.
3. 출처 확인 및 교차 검증: AI가 제공하는 출처가 신뢰할 만한지 확인하고, 동일한 내용을 다른 출처에서도 확인해보는 것이 중요하다.
4. 개인 정보 보호 및 윤리적 고려: AI를 활용할 때, 개인 정보 보호 및 윤리적인 문제를 고려해야 한다.
AI 기술은 분명히 우리 삶을 편리하게 만들어주지만, 그 한계와 문제점을 인지하고 올바르게 활용하는 것이 더욱 중요하다. 앞으로 AI 기술이 발전하면서 신뢰성과 정확성이 개선될 가능성이 높지만, 현재로서는 항상 비판적인 시각을 갖고 AI를 활용하는 것이 바람직하다.
참조 사이트
https://www.cjr.org/tow_center/we-compared-eight-ai-search-engines-theyre-all-bad-at-citing-news.php
https://arstechnica.com/ai/2025/03/ai-search-engines-give-incorrect-answers-at-an-alarming-60-rate-study-says/
https://techspective.net/2025/03/10/using-ai-to-fix-the-innovation-problem-the-three-step-solution/
https://mitsloan.mit.edu/ideas-made-to-matter/5-issues-to-consider-ai-reshapes-work
유익하셨나요?
더 많은 IT & 테크 인사이트를 이메일로 받아보세요.
구독은 언제든 취소 가능해요 🙂