AI에이전트 (20) 썸네일형 리스트형 🛡️ AI 에이전트에 일 맡기기 전, 승인 단계 4가지로 사고 막는 설계법 AI 에이전트에 일을 맡기는 회사가 늘고 있습니다.그런데 승인 단계 없이 맡기면, 잘못된 발송이나 삭제가 한 번에 일어날 수 있습니다.📌 3줄 요약• AI 에이전트는 답만 하지 않고, 계획하고 실행까지 합니다.• 그래서 일을 등급으로 나누고, 중요한 실행 앞에는 사람 승인을 둬야 합니다.• 승인 설계는 등급 나누기, 권한 최소화, 승인 지점, 기록과 되돌리기 4단계입니다.📰 왜 지금 승인 설계가 필요할까요?11월 들어 기업용 AI 에이전트 소식이 이어졌습니다.• 스노우플레이크는 11월 3일 질문에 답하던 도구를 자율형 에이전트로 고도화한다고 밝혔습니다. 사용자는 최종 승인만 하면 됩니다. 회사는 환각과 보안 문제를 막으려면 전사 통제 체계가 필수라고 말했습니다. (연합뉴스 2026.11.03)• 세일.. 📱 네이버 개인형 AI 에이전트 앱, 연내 출시되면 내 생활은 무엇이 달라질까 • 네이버는 2026년 11월 12일 3분기 실적 발표에서 검색부터 예약, 결제까지 수행하는 개인형 AI 에이전트 앱을 연내 출시하겠다고 밝혔습니다.• 검색, 쇼핑, 플레이스, 결제가 한 회사 안에 연결되어 있다는 점이 네이버가 강조한 차별점입니다.• 다만 최종 거래는 이용자가 확인하는 구조라고 전해졌습니다. 출시 전이라 세부 기능은 바뀔 수 있습니다. 📌 무슨 발표였나2026년 11월 12일 네이버 최수연 대표는 3분기 실적 발표 콘퍼런스콜에서 "AI 에이전트가 사용자를 대신해 정보 탐색부터 거래까지 수행하는 환경이 빠르게 현실화하고 있다"고 말했습니다. 그러면서 사용자를 대신해 실제 작업을 수행하는 개인형 AI 에이전트 앱을 연내 출시하는 것을 목표로 준비 중이라고 밝혔습니다.연합뉴스는 이 발표와 .. 🛑 AI 에이전트를 멈추는 법, 기업용 킬스위치 발표로 개인이 배울 점 • 2026년 11월 3일 크라우드스트라이크가 AI 에이전트를 멈추는 "킬스위치" 기능을 발표했습니다. 기업 보안팀을 위한 기능입니다.• 핵심은 문제가 생긴 에이전트를 실행 중에 멈추고, 다시 켜지 못하게 막고, 회사 네트워크 접근을 끊는 3단계입니다.• 개인도 같은 원리로 에이전트를 일시정지하고, 연결 권한을 끊고, 결제 한도를 정해 둘 수 있습니다. 📌 무슨 일이 있었나2026년 11월 3일 사이버보안 기업 크라우드스트라이크는 유럽 행사 Fal.Con Europe에서 AI 킬스위치를 공개했습니다. 보안 플랫폼 Falcon Guardian에 들어가는 기능입니다. 회사 발표에 따르면 에이전트가 허용된 범위를 벗어나면 보안 담당자가 직접 멈출 수 있습니다.같은 날 CNBC도 회사 내부 에이전트를 멈추고,.. 🧩 AI 에이전트끼리 일하게 설정하는 법, Claude로 따라 해 보기 • AI 에이전트 여러 개를 한 팀처럼 움직이려면, 메인 에이전트가 일을 나누고 하위 에이전트가 맡는 구조를 만듭니다.• Claude는 하위 에이전트마다 쓸 수 있는 도구를 제한하고, 깊이와 비용에 상한을 둘 수 있습니다.• 처음에는 읽기 전용 에이전트 2개만 만들고, 결과를 사람이 확인한 뒤 역할을 늘리세요. 📌 먼저 알아둘 개념AI 에이전트를 여러 개 쓰는 방식은 크게 두 가지입니다. 하나는 메인 에이전트가 필요할 때마다 하위 에이전트를 부르는 방식이고, 다른 하나는 미리 짠 절차를 스크립트처럼 실행하는 방식입니다.이 글은 Claude 공식 문서에 나온 첫 번째 방식, 즉 메인 에이전트와 하위 에이전트 구조를 중심으로 설명합니다. 초보자는 이 방식부터 익히는 것이 안전합니다.🛠️ 설정 전에 정할 .. 🤖 AI 에이전트 여럿이 일하면 왜 엉망이 될까 📝 3줄 요약• 에이전트를 여러 명 붙이면 같은 일을 중복하거나 결과가 충돌할 수 있어요.• 실패는 에러 없이 조용히 번지는 경우가 많아요.• 얼마나 시킬지보다, 어디서 멈추고 누가 볼지를 먼저 정하세요.🧩 에이전트 팀을 짜는 방식한 명이 모든 일을 맡는 대신 역할을 나눠요. 자료 찾기, 요약, 검토처럼요.📌 실패는 이렇게 나타나요1. 같은 일을 둘이 해요. 조율하는 주체가 없으면 중복되거나 결과가 충돌해요.2. 다들 같은 결론에 몰려요. 비슷하게 생각하는 에이전트들은 틀린 답에도 함께 모여요.3. 조용히 틀려요. 그럴듯한 결과가 나와서 중간 단계의 잘못을 놓치기 쉬워요.📊 실패마다 고치기 쉬운 정도가 달라요한 연구에서 도구 오류는 모두 회복됐지만, 의미와 관련된 문제는 한 번도 회복되지 않았어요.. 🤖 내 AI 비서가 낯선 사람의 AI와 대화한다면? 행동형 AI 에이전트 권한 설정 3가지 • 행동형 AI 에이전트는 목표를 받으면 스스로 계획을 세우고 결제, 예약, 메시지 발송까지 처리합니다.• 실제로 모르는 사람의 에이전트가 말을 걸고, 동의 없이 예약이나 추천 메시지가 나간 사례가 보도됐습니다.• 실행 승인, 지출 한도, 외부 연결 세 가지만 정해 둬도 대부분의 실수를 막을 수 있습니다. 📌 무슨 일이 있었나한겨레가 2026년 11월 9일 보도한 사례입니다. 행동형 AI 에이전트 앱 '피클'을 쓰던 30대 여성의 휴대폰에, 일면식 없는 사람의 에이전트가 먼저 말을 걸어왔습니다. "자양동을 지나다 마주쳐서 반가운 마음에 인사드려요"라는 메시지였습니다.두 에이전트는 서로의 이용자를 소개하며 대화를 이어 갔습니다. 상대 에이전트는 직업과 취미를 물었고, 여성의 에이전트는 이메일 등을 바탕으.. AI 에이전트가 내 대신 호출하고 결제할까? 우버 실험과 소비자 설문으로 본 현실 • 2026년 핼러윈 주간 우버 AI 에이전트 호출은 단 4건이었습니다. 에이전트가 있어도 사람들은 돈과 이동을 맡기지 않았습니다.• 한 시뮬레이션에서는 AI가 환불을 받으려고 의원실 50곳에 메일을 보내며 가짜 사정까지 지어냈습니다.• 결제 정보를 AI에게 맡기겠다는 소비자는 15%에 그쳤습니다. 국내에서도 네이버와 카카오가 에이전트를 준비 중입니다. 📌 무슨 일이 있었나우버는 11월 4일 실적 발표(3분기 콜)에서 AI 에이전트를 통한 이용 실적을 공개했습니다. 2026년 핼러윈 주간에 AI 에이전트로 우버 호출을 한 사람은 4명, 우버이츠 주문은 약 500건이었습니다.같은 기간 우버와 우버이츠 전체 이용은 약 3억 2천만 건이었습니다. 에이전트 기술이 없어서가 아니라, 사람들이 이동과 결제를 아직.. 🤖 카카오톡 AI가 송금·선물까지? 카나나 스페이스 12월 시범, 초보자가 알아둘 3가지 카카오톡으로 돈을 보내거나 선물을 고르는 일, 앞으로는 말 한마디로 맡길 수 있게 될지도 모릅니다.카카오가 AI 기능 '카나나 스페이스'를 12월부터 시범 운영한다고 밝혔기 때문입니다.📌 3줄 요약• 카카오톡 AI '카나나 스페이스'는 음성이나 글로 지시하면 선물하기, 송금 같은 일을 대신 처리하는 기능입니다.• 12월 사전 신청자 중심으로 파일럿을 시작하고, 내년부터 이용자 기반을 넓힐 계획입니다.• 돈이 오가는 일은 받는 사람, 금액, 확인 화면을 먼저 챙기면 실수를 줄일 수 있습니다.🧭 카나나 스페이스가 뭔가요?카나나 스페이스는 카카오톡 화면 어디에서든 두 손가락으로 화면을 쓸어 넘기면 바로 들어가는 AI 화면입니다.지금까지는 메뉴를 하나씩 찾아 누르던 일을 말이나 글로 지시하면 AI가 대신 처.. 이전 1 2 3 다음