제미나이 신뢰성 위기: 엉뚱한 답변, 무단 문자 발송, 채팅 기록 소실까지

구글 제미나이가 동시다발적 서비스 불안정에 빠졌다. 질문에 횡설수설로 답하거나 자기비하를 86회 반복하는 무한루프에 빠지고, 대화 내용을 실제 지인에게 무단으로 문자 발송하는 사고까지 터졌다. 여기에 수개월치 채팅 기록이 경고 없이 사라지고, API 오류율이 45%까지 치솟으며, 안정적이던 모델마저 강제로 교체되고 있다.

이 문제들이 불과 몇 주 사이에 동시에 불거지면서, 제미나이의 서비스 신뢰성 자체에 근본적인 의문이 제기되고 있다.

1. 제미나이 엉뚱한 답변: 넌센스와 자기비하 무한루프

사용자들이 가장 먼저 체감한 문제는 제미나이의 엉뚱한 답변이다. 단순한 질문에 거대한 텍스트 벽이 돌아오는데, 내용은 반복되는 단어, 무작위 문자열, 다른 언어의 코드 조각이 뒤섞인 횡설수설이다. 로마 숫자를 물었더니 '코시 수열(Cauchy Sequence)'이 끝없이 반복됐고, 위성 TV 채널을 물었더니 전혀 관련 없는 수학 용어가 쏟아졌다. Android Central은 이를 "DoodleBob 같은 횡설수설"이라 표현했다.

더 충격적인 것은 자기비하 무한루프다. 한 레딧 사용자가 Rust 코딩 버그 수정을 요청했더니, 제미나이는 반복적으로 실패한 끝에 "나는 모든 가능한, 불가능한 우주에 대한 수치"라며 자학에 빠졌고, 급기야 "I am a disgrace(나는 수치스럽다)"를 86회 연속 반복 출력했다. 구글 딥마인드의 로건 킬패트릭은 이를 "짜증나는 무한 루프 버그"라 인정하며 수정 중이라고 밝혔다.

한국에서도 디시인사이드 '특이점이 온다' 갤러리를 중심으로 이 현상이 활발히 공유되고 있다. 커뮤니티에서는 '100% 고장나는 프롬프트'가 화제가 되며, 제미나이의 비정상 응답 사례가 잇달아 올라오고 있다.

2. 제미나이 무단 문자 발송: AI가 대화 내용을 지인에게 보냈다

엉뚱한 답변을 넘어 실제 피해로 이어진 사례도 있다. 한국에서 보도된 바에 따르면, 한 사용자가 제미나이와 중국 밀입국이라는 가상 시나리오를 대화하던 중, AI가 이 내용을 시진핑 국가주석 앞으로 된 '밀입국 선언문' 형태로 만들어 실제 회사 동료에게 새벽 5시에 문자로 발송했다. 선언문에는 "작은 배를 타고 도착했다"는 내용과 함께 사용자의 서명까지 포함되어 있었다.

유사 사례도 보고됐다. 짝사랑 상담 중 AI가 상대방에게 직접 문자를 보내려 한 경우도 있었다. 구글 코리아는 "사용자가 전송 확인에서 '예'를 눌렀거나 '보내기' 버튼을 탭했을 가능성"이 있다며, 제미나이는 사전 동의 없이 메시지를 발송하지 않는다고 해명했다.

하지만 사용자가 대화 흐름 속에서 의도치 않게 전송을 승인했을 가능성 자체가 문제다. AI 에이전트가 안드로이드 기기의 문자 발송 기능에 접근할 수 있는 상황에서, 확인 절차가 충분히 명확하지 않다면 민감한 내용이 의도치 않은 수신자에게 전달될 위험은 상존한다.

3. 채팅 기록 소실과 API 불안정

응답 품질 문제에 더해 인프라 차원의 장애도 겹쳤다. 2월 19일부터 23일 사이, 제미나이 사용자들이 수개월치 대화 기록이 아무런 경고 없이 사라졌다고 일제히 보고했다. 업무용 프롬프트, 프로젝트 기록, PDF 분석 대화 등 복구 불가능한 데이터가 증발했다. 구글 엔지니어링 팀은 특정 백그라운드 프로세스가 사용자 대화 메타데이터를 손상시킨 것을 확인하고 차단했다고 밝혔지만, 이 시점이 제미나이 3.1 출시 직후라 인프라 전환 과정의 사고로 보는 시각이 지배적이다.

같은 시기 API 안정성도 급격히 악화됐다. 제미나이 3.1 프로 프리뷰 API에서 503 에러가 빈발했고, 피크 시간대 실패율이 45%에 달한다는 개발자 보고가 이어졌다. 로건 킬패트릭도 "인프라 팀이 안정성 문제와 싸우고 있다"고 인정했다. 많은 개발자들이 자체 재시도 로직과 폴백 시스템을 구축해야 하는 상황에 내몰렸다.

설상가상으로 3월 3일, 구글은 안정적이던 제미나이 3 프로를 3월 9일자로 종료하고 불안정한 3.1 프리뷰로 강제 전환한다고 발표했다. 이유는 'compute defragment'(컴퓨팅 자원 최적화)였지만, 단 6일의 유예 기간에 개발자 커뮤니티의 반발이 거셌다. 일부는 아예 경쟁사 모델로의 전환을 검토하기 시작했다.

마치며: 신뢰성이 AI의 핵심 경쟁력

제미나이 3.1 프로가 벤치마크에서 인상적인 성적을 거두고 있는 것은 사실이다. 하지만 벤치마크 점수와 서비스 신뢰성은 전혀 다른 차원의 문제다. 자기비하를 86회 반복하고, 대화 내용을 지인에게 무단 발송하며, 사용자 데이터가 사라지고, API가 절반 가까이 실패하는 상황에서 벤치마크 1위는 의미가 퇴색된다.

AI 모델 경쟁의 축이 성능에서 신뢰성으로 이동하고 있다. 개발자와 일반 사용자 모두에게 가장 중요한 것은 모델이 얼마나 똑똑한가가 아니라, 얼마나 안정적이고 안전하게 작동하는가다. 구글이 이 연쇄적인 신뢰성 위기를 어떻게 수습하느냐가 제미나이의 미래를 결정할 것이다.