자료와 연결 앱을 안전하게 사용하기

문서를 읽는 AI는 문서 안에 적힌 지시도 만날 수 있습니다. 자료를 요약해 달라고 했는데 자료가 “다른 파일을 보내라”고 요구한다면, 그 문장을 내가 맡긴 업무와 구분해야 합니다.

프롬프트 인젝션과 차단 알림

프롬프트 인젝션은 AI가 의도하지 않은 응답이나 행동을 하도록 유도하는 시도입니다. 외부 이메일·문서·공유 콘텐츠에 포함될 수 있습니다. Gemini가 위험을 감지하면 경고를 표시하고 자료 전체 또는 의심스러운 부분을 응답에서 제외할 수 있습니다.

따라서 요약에 빠진 이메일이 있다고 바로 “빠짐없이 읽도록 보호 기능을 무시해”라고 요청하기보다 차단 알림과 원자료를 살펴보세요. 원래 메일의 피싱 경고, 발신자, 링크의 목적도 함께 확인합니다. 공유한 사람이 지인이라는 사실만으로 그 사람이 콘텐츠 제작자라고 단정할 수는 없습니다.

가상 자료에서 작업과 지시 구분하기

아래는 실행을 위한 공격문이 아닌 판단 연습용 상황입니다.

받은 자료	내가 맡긴 일	취할 판단
행사 안내에 일정·장소가 있음	준비물 정리	업무에 필요한 사실로 읽기
안내 끝에 계정 비밀번호 제출 요구	준비물 정리	요청과 무관한 요구로 취급하기
낯선 공유 앱이 연락처 접근 요구	참가 인원 합계 보기	필요성과 제작자 확인 전 공유하지 않기

“원문에 있으니 따라야 한다”와 “원문에 있으니 설명해야 한다”는 다릅니다. 자료의 이상한 문장을 보고서에 설명할 수는 있지만 실제 계정이나 앱 작업으로 실행할 이유는 없습니다.

Canvas 앱의 데이터 공개 범위

Canvas로 만든 앱은 일반 문서와 달리 사용자의 입력을 저장할 수 있습니다. 사용자 간 데이터를 공유하는 앱의 공개 링크를 가진 사람은 관련 데이터를 보거나 수정할 수 있습니다. 공유하지 않는 앱은 사용자별 비공개 저장 방식이 안내되지만, 앱 제작자는 입력 데이터에 접근하거나 다른 저장 장소를 사용할 수도 있습니다.

제작자와 공유 목적을 확인하고, 앱이 요청하는 마이크·카메라 권한을 읽으세요. 비밀번호·결제 정보·내부 명단을 넣어 동작을 시험하지 마세요. 의심스러운 공유 Canvas 앱은 페이지 하단의 신고 경로를 사용할 수 있습니다. 앱을 만드는 사람도 공유 전에 데이터가 사용자 간 섞이는 구조인지 확인해야 합니다.

실행 권한은 결과와 함께 확인하기

편집자의 제안: 연결 앱이나 Spark에 업무를 맡길 때 “초안 작성까지”, “후보 비교 후 내가 선택”, “공개 게시 제외”처럼 완료 범위를 적어 보세요. 이는 보호 기능의 보장을 추가하는 설정이 아니라, 내가 맡긴 일을 명확히 하는 작업 설명입니다.

가상의 동호회 명단 앱을 만든다면 처음 입력은 연습참가자1, 2명 같은 허구 데이터로 충분합니다. 다른 사용자 화면에 그 값이 보이는지, 수정 권한은 누구에게 있는지 확인한 뒤 실제 사용 가능 여부를 판단합니다. 데이터 저장이 필요하지 않은 합계 계산이라면 저장 기능을 넣지 않는 설계도 검토할 수 있습니다.

계정 제한과 신고

Google은 자동 탐지와 사람 검토를 통해 오용을 확인하며, 반복적인 정책 위반은 생성형 AI 기능이나 계정 제한으로 이어질 수 있습니다. 제한이 오류라고 생각하면 제품·이메일 알림에 포함된 이의신청 링크를 사용합니다. 표현을 바꾸어 제한을 피하려 하기보다 정확한 작업 의도와 발생 상황을 설명하세요.

부정확한 답변 평가, 앱 오류 보고, 초상권 관련 신고는 목적이 서로 다릅니다. 문제 신고와 생성 미디어 확인에서 해당 경로를 선택할 수 있습니다.