온디바이스 AI 뜻, 휴대전화 안에서 무엇을 처리한다는 말일까?
온디바이스 AI는 휴대전화나 PC 같은 기기 안에서 AI 계산을 수행하는 방식입니다. 입력을 외부 서버로 보내 결과를 받는 클라우드 처리와 구분됩니다. 다만 하나의 앱이 모든 기능을 기기 안에서만 수행하는지, 일부 기능만 그렇게 처리하는지는 별도로 확인할 문제입니다.
경제와 비즈니스를 이해하는 작은 도서관
온디바이스 AI는 휴대전화나 PC 같은 기기 안에서 AI 계산을 수행하는 방식입니다. 입력을 외부 서버로 보내 결과를 받는 클라우드 처리와 구분됩니다. 다만 하나의 앱이 모든 기능을 기기 안에서만 수행하는지, 일부 기능만 그렇게 처리하는지는 별도로 확인할 문제입니다.
AI 에이전트는 목표를 받아 필요한 정보를 살피고 도구를 사용하면서 작업을 진행하는 시스템을 가리킵니다. 언어모델을 이용하는 에이전트에서는 모델이 다음 행동을 결정하고, 실제 도구가 검색·조회·수정 등의 작업을 수행합니다. 답변 문장을 만드는 기능과 외부 환경에 행동하는 기능이 결합된 구조입니다.
AI 학습은 데이터를 이용해 모델의 내부 수치를 조정하는 과정이고, 추론은 학습된 모델을 이용해 입력에 대한 결과를 계산하는 과정입니다. 질문에 답하고 이미지를 분류하거나 문장을 생성하는 일은 보통 추론에 해당합니다.
생성형 AI는 학습한 데이터의 패턴을 바탕으로 문장, 이미지 등 새로운 출력을 만드는 인공지능입니다. 입력을 보고 정해진 범주를 고르는 분류와 달리, 여러 요소를 조합해 출력 자체를 생성합니다. 다만 ‘새로운 출력’이 항상 새로운 사실이나 독창적인 지식을 뜻하는 것은 아닙니다.