스마트폰 인공지능이 사진 보정과 통역을 넘어 메시지·일정·위치·화면 내용을 연결하는 개인 비서로 확대되면서, 처리 속도만큼 데이터의 이동 경로가 제품 경쟁력을 가르는 기준이 되고 있다. 같은 ‘AI 기능’이라도 기기 안에서 연산을 끝내는지, 제조사 서버로 보내는지, 사용 기록을 모델 개선에 활용하는지에 따라 개인정보 위험은 크게 달라진다. 애플·구글·삼성은 모두 온디바이스 처리를 강조하지만 복잡한 작업에서는 클라우드가 필요하다. 이제 소비자가 비교해야 할 것은 모델 이름이 아니라 어떤 정보가 언제 기기 밖으로 나가고, 이를 거부하거나 삭제할 수 있는지다.
온디바이스 AI가 첫 번째 방어선인 이유
기기 안의 신경망처리장치가 음성 인식, 문장 요약, 사진 분류를 수행하면 원본 데이터가 외부 서버로 이동하지 않는다. 네트워크가 끊겨도 기능을 쓸 수 있고 응답 지연도 줄어든다. 구글은 Android AICore가 Gemini Nano를 기기 하드웨어에서 실행해 지원되는 생성형 AI 작업을 로컬에서 처리한다고 설명한다. 삼성 역시 갤럭시 AI 설정에서 지원 기능을 ‘기기에서만 처리’하도록 선택할 수 있다고 안내한다.
다만 온디바이스라는 표현만으로 모든 기능이 로컬에서 작동한다고 오해해서는 안 된다. 기능별로 필요한 모델 규모와 데이터가 달라 일부 번역·검색·생성 작업은 서버 연결을 요구할 수 있다. 기기 제조사는 로컬 처리 기능과 온라인 처리 기능을 명확히 구분하고, 사용자가 설정을 바꿨을 때 어떤 기능이 제한되는지 알려야 한다. 소비자도 제품 광고보다 실제 설정 화면과 개인정보 안내를 확인할 필요가 있다.
애플의 Private Cloud Compute, 검증 가능한 클라우드 제시
애플은 Apple Intelligence 요청을 가능하면 기기에서 처리하고, 더 큰 모델이 필요한 경우 Private Cloud Compute(PCC)를 사용한다. 애플 보안 안내에 따르면 PCC는 요청 수행에 필요한 개인 데이터를 응답 이후 접근할 수 없도록 하는 무상태 처리를 핵심 요건으로 삼는다. 서버 소프트웨어를 외부 연구자가 검증할 수 있도록 공개하고, 승인된 소프트웨어가 동작하는 서버에만 기기가 요청을 보내도록 설계한 점도 특징이다.
이 접근은 “회사를 믿어 달라”는 약속에서 시스템 구조를 검증하도록 하는 방향으로 한 단계 나아간다. 그러나 이용자 관점에서는 어떤 요청이 PCC로 전송됐는지 쉽게 이해하기 어렵다는 과제가 남는다. 기능 사용 시 로컬 처리와 클라우드 처리를 눈에 띄게 표시하고, 진단 기록을 확인하거나 민감한 앱을 제외할 수 있어야 설계상의 보호가 실제 통제권으로 이어진다.
구글 Gemini는 활동 설정이 데이터 사용을 좌우
구글의 Gemini Apps Privacy Hub에 따르면 ‘Keep Activity’가 켜져 있으면 대화와 공유한 파일·사진·화면, 이용 정보와 위치 관련 정보 등이 활동 기록에 저장될 수 있으며 서비스 개선과 생성형 AI 모델 개발에 사용될 수 있다. 자동 삭제 기간을 변경하거나 활동 저장을 끌 수 있지만, 끈 이후의 대화도 응답 제공과 안전 보호를 위해 최대 72시간 보관될 수 있다고 안내한다. 일부 연결 앱은 활동 저장을 끄면 이용이 제한된다.
이는 개인정보 보호가 기기 사양보다 계정 설정에 크게 좌우된다는 뜻이다. 같은 안드로이드폰에서도 AICore가 로컬로 수행하는 기능과 Gemini 앱이 클라우드로 처리하는 기능의 데이터 규칙은 다르다. 카메라·마이크·연락처·위치 권한 역시 Gemini가 호스팅되는 구글 앱 권한과 연결될 수 있어, 앱 하나의 설정만 확인해서는 전체 흐름을 알기 어렵다. 제조사는 기능별 데이터 흐름을 한 화면에서 보여주는 통합 대시보드를 제공할 필요가 있다.
개인화가 깊어질수록 ‘최소 권한’이 중요
AI 비서가 일정과 이메일, 통화 기록, 사진을 함께 이해하면 유용성은 높아진다. 동시에 계정 탈취나 잘못된 자동 실행이 발생했을 때 피해 범위도 넓어진다. 특히 화면 공유나 실시간 영상 기능은 주변 사람과 문서의 정보까지 수집할 수 있다. 필요한 순간에만 권한을 허용하고, 결제·메시지 전송·일정 삭제처럼 되돌리기 어려운 행동에는 별도 확인을 받는 것이 안전하다.
삼성의 2026년 갤럭시 발표는 개인 선호를 기기에서 학습하는 Personal Data Engine과 앱별 데이터를 격리하는 보호 구조를 강조했다. 이런 설계가 의미 있으려면 마케팅 명칭보다 적용 범위가 투명해야 한다. 어떤 앱과 기능이 격리 영역을 쓰는지, 백업이나 기기 교체 과정에서 데이터가 어떻게 이동하는지, 제3자 AI 서비스와 연결될 때 동일한 보호가 유지되는지 공개해야 한다.
분석: AI 성능 경쟁은 ‘데이터 절제’ 경쟁으로
스마트폰 AI의 차별화는 가장 큰 모델을 탑재하는 데서 끝나지 않는다. 동일한 결과를 더 적은 개인정보와 더 짧은 보관 기간으로 만들 수 있는지가 신뢰를 결정한다. 온디바이스 처리는 개인정보 보호에 유리하지만 배터리·발열·저장공간 부담이 있고, 클라우드는 고성능 모델을 제공하는 대신 전송과 보관 위험이 생긴다. 따라서 한쪽 방식만 고집하기보다 작업의 민감도와 복잡도에 따라 처리 위치를 선택하고 사용자가 이를 바꿀 수 있어야 한다.
향후 경쟁의 기준은 세 가지로 압축된다. 첫째, 실행 전에 전송 데이터와 처리 위치를 알려주는가. 둘째, 기능별로 권한을 철회해도 기본 사용성이 유지되는가. 셋째, 저장 기록과 모델 개선 사용 여부를 사용자가 직접 삭제·거부할 수 있는가다. 규제기관 역시 모호한 ‘기기 내 보호’ 표현보다 기능별 데이터 흐름과 보관 기간을 표준 형식으로 공개하도록 요구할 필요가 있다.
전망: 소비자가 확인해야 할 체크리스트
AI 스마트폰을 선택할 때는 설정에서 온라인 처리 제한이 가능한지, 활동 기록의 기본값과 자동 삭제 기간은 무엇인지, 민감한 작업에 재확인을 요구하는지 살펴야 한다. 업무용 이용자는 회사 문서와 개인 계정이 섞이지 않도록 프로필을 분리하고, 화면 공유와 연결 앱 권한을 정기적으로 점검해야 한다. 제조사가 개인정보 보호를 핵심 기능으로 경쟁할수록 시장에는 긍정적이지만, 보호 수준은 선언이 아니라 독립 검증과 쉬운 통제 기능으로 판단해야 한다.
스마트폰 AI는 개인의 일상을 가장 가까이에서 해석하는 기술이다. 그만큼 편리함과 감시의 경계도 얇다. 앞으로 강한 제품은 사용자를 가장 많이 아는 제품이 아니라, 필요한 순간에만 최소한으로 알고 그 사실을 투명하게 설명하는 제품일 가능성이 크다.
의견을 남겨주세요