로그인폼
로그인폼
커뮤니티COMMUNITY
못 믿을 생성형 AI…제미나이·챗GPT, 잦은 오류에 신뢰 '뚝'
작성일 : 2024-02-24 17:04:09조회 : 234점수 : 0
-
- tjsgh3471
- LEVEL35
- 출석 : 74일
- Exp. 29%
- [등록된 소개글이 없습니다]
최근 인공지능(AI) 시장 주도권을 잡기 위해 글로벌 빅테크들이 앞 다퉈 새로운 서비스를 선보이고 있지만 잦은 오류로 이용자들의 신뢰를 잃고 있다.
24일 업계에 따르면 오픈AI의 '챗GPT'는 지난 21일 원인 불명의 작동 오류를 일으켰다. 23일 새벽부터는 정상 작동됐다.
글로벌 건축 회사 젠슬러(Gensler) 관계자는 최근 자신의 소셜 미디어 X에 무의미한 언어로 응답하는 챗GPT의 스크린샷을 공개했다. 사진 속 챗GPT는 의미를 알 수 없는 영어를 무작위로 늘어놨다. 업계에선 GPT-3 출시 초기 이후로 이같이 심각한 상황은 처음이라고 지적했다.
오픈AI는 챗GPT의 예기치 않은 응답에 대한 보고를 조사해 확인했다고 입장을 밝혔으나, 어떤 문제인지에 대해선 명확히 밝히지 않았다. 이를 두고 일각에선 '가중치 손상' 때문이라고 주장하고 있다. 가중치는 AI 모델의 기본 요소로, 챗GPT와 같은 도구가 사용자에게 예측 결과를 제공하는 데 도움을 준다.
챗GPT의 결과물도 오류가 상당하다. 최근 스탠포드대학교에서 AI 모델들이 20만 개의 법률 관련 질의에 대해 생성한 답변을 연구한 결과에 따르면 챗GPT의 오류 비율은 69%에 달했다. 메타 라마는 88%로 더 높았다.
마이크로소프트(MS)의 빙도 선거 관련 정보의 오답률이 30%에 이르는 것으로 나타나 신뢰도에 타격을 입었다.
유럽 알고리즘 조사 기관 AI 포렌식과 알고리즘워치는 지난해 12월 보고서에서 MS 빙 챗봇을 대상으로 선거 관련 정보의 신뢰성을 조사한 결과, 답변 3개 중 1개는 오류를 포함했다고 밝힌 바 있다. 이들 기관은 최근 실시된 스위스 연방정부, 독일 헤센주 및 바이에른주 선거와 관련해 2개월에 걸쳐 빙 챗봇에 던진 1천 개가 넘는 질문을 통해 이런 결과를 얻었다.
영어가 아닌 다른 언어로 질문할 때 오류가 더 많았다. 같은 질문을 영어로 했을 때 오류율은 20%인데 반해 프랑스어로는 24%, 독일어로는 오류율이 37%에 달했다.
AI 포렌식스 연구 책임자는 "이번 연구는 '빙'에 집중됐지만 이러한 문제가 '빙'에 한정된다는 의미는 아니다"며 "빙 챗봇을 대상으로 한 것은 이 챗봇이 검색과 워드, 윈도 등 유럽에서 가장 널리 사용되는 서비스에 공격적으로 구축됐기 때문"이라고 밝혔다.
해당 게시물에 음란물(아동 포함), 도박,광고가 있거나 바이러스, 사기파일이 첨부된 경우에 하단의 신고를 클릭해주세요.
단, 정상적인 게시물을 신고할 시 사이트 이용에 불이익을 받으실 수 있습니다.
tjsgh3471 님의 최근 커뮤니티 글.
Copyright Luckyworld.net All rights reserved.
