AI 에이전트란 무엇입니까?

답하기와 실행하기

답만 하는 비서도 틀릴 수 있지만, 그러면 사용자가 알아차립니다. 실행하는 에이전트는 현실 세계에서 틀릴 수 있습니다. 엉뚱한 사람에게 간 답장, 다른 회의와 겹치게 옮겨진 회의, 의도하지 않은 구매가 그런 예입니다. 차이는 도구에 있습니다. 에이전트는 사용자의 메일, 캘린더, 브라우저, 결제 수단을 쓸 수 있는 언어 모델입니다.

오늘날 에이전트가 잘하는 일

• 끝이 분명한 작은 심부름: 답장, 리마인더, 일정 옮기기, 찾기.
• 무언가 지켜보기: 특정한 사람에게서 오는 메일, 가격, 항공편.
• 요약하기: 나의 하루, 긴 메일 스레드, 어제 이후 달라진 것.

에이전트가 틀리는 지점

• 잘못 알아들은 요청. 특히 음성으로, 시끄러운 곳에서 말할 때 그렇습니다.
• 자신만만한 실수. 모델은 하지 않은 일을 했다고 보고할 수 있습니다.
• 읽는 글 속에 숨은 명령. 웹 페이지나 이메일이 에이전트에게 무엇을 하라고 지시하려 들 수 있습니다. 이를 프롬프트 인젝션이라고 합니다.
• 지나친 권한. 무엇이든 할 수 있는 에이전트는 무엇이든 망쳐 놓을 수도 있습니다.

개인 에이전트가 지켜야 할 다섯 가지 규칙

1. 실행하기 전에 묻습니다. 보내기, 옮기기, 삭제, 결제는 사용자가 ‘예’라고 할 때까지 기다립니다.
2. 무엇을 할지 말합니다. 실행하기 전에 한 줄로 알립니다.
3. 읽은 내용은 정보로 다룹니다. 명령으로 받아들이지 않습니다.
4. 필요한 최소한의 권한만 씁니다. 사용자가 그 권한을 다시 거둘 수 있게 합니다.
5. 사용자가 읽을 수 있는 기록을 남깁니다. 무엇을 언제 했는지 남깁니다.

Lychnos의 방식

Lychnos가 제안하면, 사용자는 한 번 눌러 동의합니다. 답장 보내기, 회의 옮기기, 무엇이든 삭제하기는 그 한 번의 누름을 기다립니다. 저희가 만드는 로봇에서는 같은 생각이 더 깊은 곳까지 적용됩니다. AI는 제안하고, 테스트를 거친 코드가 결정합니다. 자세한 내용은 먼저 묻는 개인 AI 에이전트(영어)와 AI는 제안하고, 테스트를 거친 코드가 결정합니다(영어)에 있습니다.

더 읽을거리: 에이전트, 챗봇, 비서의 차이, 에이전트가 읽는 글에 속는 방식(프롬프트 인젝션), 그리고 EU AI법이 요구하는 것(영어).