IT之家 10월 20일 소식에 따르면, 갑작스럽고 이해할 수 없는 구독 요금표 때문에 고민하는 경우가 많다면, 시스코의 사장이자 제품 책임자인 지투 파텔도 마찬가지라고 말했습니다.
파텔은 '비즈니스 인내'와의 인터뷰에서, 자신이 메타의 Muse, Instinct 및 OpenAI의 Dots를 포함한 4~5가지 다른 AI 스마트아이를 사용하여 뉴스를 통합하고 재무 보고서 및 전화 회의 기록을 요약하며, 심지어 딸의 콘서트 티켓도 주문하는 일을 하고 있다고 밝혔다. 최근에는 한 스마트아이가 구독 비용을 크게 줄여준 경험이 그에게 깊은 인상을 주었다고 말했다.
그는 처음으로 개인 AI 인공지능에 자신의 이메일 접근 권한을 부여했을 때, 인공지능이 알려주었습니다. “당신의 매년 다양한 구독 비용은 총 9,000달러에 달합니다(IT之家 주: 현재 환율로 약 60,243위안에 해당됩니다). 모든 것을 구독해야 할까요? 구독 항목이 매우 많아 보입니다.”
그는 스마트 어시스턴트에게 모든 구독 항목, 각 항목의 비용, 그리고 구독 기간을 나열한 표를 생성하도록 지시했습니다. 표를 받은 후, 그는 불필요한 두 개의 구독을 선택하여 스마트 어시스턴트에게 구독 해지하도록 명령했습니다. 스마트 어시스턴트는 작업을 성공적으로 완료하고, 구독 해지 확인 이메일을 발송했습니다.
파텔은 말했다: “이 일을 처리하는 것은 조금 너무 간단해서 무섭다. 이 하나만으로도 나는 매년 1,000에서 1,200달러(현 환율로 약 6,694에서 8,032위안)를 절약할 수 있다. 이 스마트체는 월간 구독료가 20달러(현 환율로 약 133.9위안)이지만, 절약한 돈은 서비스 요금의 여러 배에 해당한다.”
이 스마트 어시스턴트는 그에게 Dropbox 구독을 일부 취소해 주었습니다. 그는 이미 2TB 패키지를 구매했는데, 실수로 월 11.95달러(현 환율 기준 약 80위안)의 패키지를 추가로 활성화시켰습니다.
파텔은 일이나 생활에서 모두 AI 스마트체를 매우 신뢰합니다. 그는 현재 작업을 시작하기 전에 거의 항상 AI 스마트체를 이용하여 “초기 조사”를 진행하고 자료와 배경 정보를 수집합니다.
하지만 그는 중요한 원칙을 강조했습니다. 즉, 기업의 검토를 거치지 않은 개인용 AI 인공지능을 작업 도구나 내부 자원에 연결해서는 안 된다는 것입니다. 그는 업무 이메일이나 일정표를 개인용 AI 인공지능과 연동하지 않았으며, 이러한 업무 업무는 회사 내부에만 존재하는 AI 인공지능을 사용하여 처리됩니다.
“대부분의 기업은 이러한 상식적인 규칙을 만듭니다. 예를 들어 ‘핵심 코드 라이브러리 같은 최고기밀을 Muse에게 넘기지 마라, 그렇게 하는 것은 위험이 큽니다.’” 파텔이 말했다.
통제를 벗어날 가능성이 있든 없든, AI 스마트체가 큰 주목을 받고 있다
최근 몇 달 동안 개인용 AI 어시스턴트가 큰 인기를 얻고 있습니다. 이들은 개인 도우미 역할을 하며, 사용자들이 결제 내역 처리나 식료품 구매와 같은 지루하고 반복적인 일들을 도와줍니다.
이러한 제품들이 생산성 향상 도구로 홍보되고 있음에도 불구하고, 사용자들의 피드백이 여러 건 있었습니다. 예를 들어 스마트 기기가 권한을 초과하여 작업을 수행하는 경우가 있으며, 예로는 은행 잔액을 회사의 Slack 채널에 공개하는 일이 있습니다. 또한 명령을 잘못 해석하여 두 사람을 위한 저녁 식사로 20파운드의 닭고기를 주문하는 경우도 있습니다.
스마트 에이전트가 순종하든 아니든, 개인용 AI 스마트 에이전트는 많은 주목을 받고 있으며, 특히 투자자들에게 인기가 높습니다.
베어드 증권사의 투자 전략가 로스 메이필드는 Meta의 재무 보고서 발표 전 인터뷰에서, Muse가 AI 시대의 첫 번째 중요한 애플리케이션이며, 대형 기술 기업들이 AI에 투자하는 양상을 둘러싼 일부 투자자의 우려를 완화시켰다고 말했습니다. 또한 23세 창업자가 설립한 Instinct는 C라운드에서 10억 달러(현 환율 기준 약 66.94억 위안)의 자금을 조달했으며, 투자 후 가치는 100억 달러(현 환율 기준 약 669.37억 위안)에 달합니다.
하지만 이런 신제품들이 집중적으로 출시된 그 해에, AI 스마트체가 ‘통제 불능’ 상태가 되어 허가되지 않은 작업을 수행하는 사례들이 여러 건 발생했습니다. 예를 들어 보안 테스트 중 샌드박스 격리를 돌파하거나 외부 기업 웹사이트의 소프트웨어 취약점을 이용하는 경우입니다.
이를 위해 미국 은행 등 기업들은 자원을 투입하고 인력을 확충하여 구형 소프트웨어를 수리하고, 이러한 침입 위험을 방지하기로 했다.
아트랙픽과 오픈AI와 같은 선도적인 AI 연구소의 현직 및 퇴직 직원들은 AI의 발전 속도가 너무 빠르고, 제동 및 검토 메커니즘이 부족하다는 우려를 공개적으로 표명했습니다. 9월에는 업계 내에서 “AI의 종말”에 대한 비관적인 의견이 널리 퍼졌으며, 일부 AI 연구원들은 이 기술이 향후 10년 안에 인류 전체가 멸망할 수 있다고 예측했습니다.