엔비디아가 에지 환경에서 실시간 AI 추론을 수행할 수 있는 엔비디아 젯슨 토르(NVIDIA Jetson Thor) 모듈을 출시했다. 젯슨 토르는 연구와 산업 현장의 로봇 시스템에서 두뇌 역할을 수행하며, 휴머노이드와 산업용 로봇 등 다양한 로봇이 보다 스마트하게 동작하도록 지원한다. 로봇은 방대한 센서 데이터와 저지연 AI 처리를 요구한다. 실시간 로봇 애플리케이션을 실행하려면 여러 센서에서 동시 발생하는 데이터 스트림을 처리할 수 있는 충분한 AI 컴퓨팅 능력과 메모리가 필요하다. 현재 정식 출시된 젯슨 토르는 이전 모델인 엔비디아 젯슨 오린(Orin) 대비 AI 컴퓨팅이 7.5배, CPU 성능이 3.1배, 메모리 용량이 2배 향상돼 이러한 처리를 디바이스에서 가능하게 한다. 이러한 성능 도약은 로봇 연구자들이 고속 센서 데이터를 처리하고 에지에서 시각적 추론을 수행할 수 있도록 한다. 이는 기존에는 동적인 실제 환경에서 실행하기에는 속도가 너무 느려 실행하기 어려웠던 워크플로이다. 이로써 휴머노이드 로보틱스와 같은 멀티모달 AI 애플리케이션의 새로운 가능성을 열어주고 있다.   ▲ 엔비디아 젯슨 AGX 토르 개발자 키트   휴머노이드 로보틱스 기업인 어질리티 로보틱스(Agility Robotics)는 자사의 5세대 로봇인 디지트(Digit)에 엔비디아 젯슨을 통합했다. 이어서 6세대 디지트에는 온보드 컴퓨팅 플랫폼으로 젯슨 토르를 채택할 계획이다. 이를 통해 디지트는 실시간 인식과 의사결정 능력을 강화하고 점차 복잡해지는 AI 기술과 행동을 지원할 수 있게 된다. 디지트는 현재 상용화됐으며, 창고와 제조 환경에서 적재, 상차, 팔레타이징(palletizing) 등 물류 작업을 수행하고 있다. 30년 넘게 업계 최고 수준의 로봇을 개발해온 보스턴 다이내믹스(Boston Dynamics)는 자사 휴머노이드 로봇 아틀라스(Atlas)에 젯슨 토르를 탑재하고 있다. 이를 통해 아틀라스는 이전에는 서버급에서만 가능했던 컴퓨팅, AI 워크로드 가속, 고대역폭 데이터 처리, 대용량 메모리를 디바이스 내에서도 활용할 수 있게 됐다. 휴머노이드 로봇 외에도, 젯슨 토르는 더 크고 복잡한 AI 모델을 위한 실시간 추론을 통해 다양한 로봇 애플리케이션을 가속화할 예정이다. 여기에는 수술 보조, 스마트 트랙터, 배송 로봇, 산업용 매니퓰레이터(manipulator), 시각 AI 에이전트 등이 포함된다. 젯슨 토르는 생성형 추론 모델을 위해 설계됐다. 이는 차세대 피지컬 AI 에이전트가 클라우드 의존도를 최소화하면서 에지에서 실시간으로 실행될 수 있도록 한다. 차세대 피지컬 AI 에이전트는 대형 트랜스포머 모델, 비전 언어 모델(vision language model : VLM), 비전 언어 행동(vision language action : VLA) 모델을 기반으로 구동된다. 젯슨 토르는 젯슨 소프트웨어 스택으로 최적화돼 실제 애플리케이션에서 요구되는 저지연과 고성능을 구현한다. 따라서 젯슨 토르는 모든 주요 생성형 AI 프레임워크와 AI 추론 모델을 지원하며, 탁월한 실시간 성능을 제공한다. 여기에는 코스모스 리즌(Cosmos Reason), 딥시크(DeepSeek), 라마(Llama), 제미나이(Gemini), 큐원(Qwen) 모델과 함께, 로보틱스 특화 모델인 아이작(Isaac) GR00T N1.5 등이 포함된다. 이를 통해 개발자는 손쉽게 로컬 환경에서 실험과 추론을 실행할 수 있다. 젯슨 토르는 생애 주기 전반에 걸쳐 엔비디아 쿠다(CUDA) 생태계의 지원을 받는다. 또한 젯슨 토르 모듈은 전체 엔비디아 AI 소프트웨어 스택을 실행해 사실상 모든 피지컬 AI 워크플로를 가속화한다. 여기에는 로보틱스를 위한 엔비디아 아이작, 영상 분석 AI 에이전트를 위한 엔비디아 메트로폴리스(Metropolis), 센서 처리를 위한 엔비디아 홀로스캔(Holoscan) 등의 플랫폼이 활용된다. 이러한 소프트웨어 도구를 통해 개발자는 다양한 애플리케이션을 손쉽게 구축하고 배포할 수 있다. 실시간 카메라 스트림을 분석해 작업자 안전을 모니터링하는 시각 AI 에이전트, 비정형 환경에서 조작 작업을 수행할 수 있는 휴머노이드 로봇, 다중 카메라 스트림 데이터를 기반으로 외과의에게 안내를 제공하는 스마트 수술실 등이 그 예시이다. 젯슨 토르 제품군에는 개발자 키트와 양산용 모듈이 포함된다. 개발자 키트에는 젯슨 T5000 모듈과 다양한 연결성을 제공하는 레퍼런스 캐리어 보드, 팬이 장착된 액티브 방열판, 전원 공급 장치가 함께 제공된다. 엔비디아는 젯슨 생태계가 다양한 애플리케이션 요구사항과 고속 산업 자동화 프로토콜, 센서 인터페이스를 지원해 기업 개발자의 시장 출시 시간을 단축한다고 전했다. 하드웨어 파트너들은 다양한 폼팩터로 유연한 I/O와 맞춤형 구성을 갖춰 생산에 준비된 젯슨 토르 시스템을 개발하고 있다. 센서 및 액추에이터 업체들은 엔비디아 홀로스캔 센서 브릿지(Sensor Bridge)를 활용하고 있다. 이 플랫폼은 센서 융합과 데이터 스트리밍을 간소화하며, 카메라, 레이더, 라이다 등에서 발생한 센서 데이터를 초저지연으로 젯슨 토르 GPU 메모리에 직접 연결할 수 있게 해준다. 수천 개의 소프트웨어 기업들은 젯슨 토르에서 구동되는 다중 AI 에이전트 워크플로를 통해 기존 비전 AI와 로보틱스 애플리케이션 성능을 향상시킬 수 있다. 그리고 200만 명 이상의 개발자들이 엔비디아 기술을 활용해 로보틱스 워크플로를 가속화하고 있다.

코리아 그래픽스 컨퍼런스 내용이 보이지 않으면 여기를 클릭하세요!       코리아 그래픽스 2025 아젠다 AI로 혁신하는 3D 시각화와 산업의 미래 1일차(9월 11일) - 디지털 트윈 & 3D 시각화 1. [기조연설] 디자이너와 생성형 AI가 만드는 디자인-제조의 미래 / 한양대학교 현경훈 교수 2. 리얼타임을 통한 디지털 트랜스포메이션의 진화, 그리고 에픽게임즈의 에코시스템 / 에픽게임즈 코리아 권오찬 시니어 에반젤리스트 3. AI 워크스테이션을 통한 생산성 향상 방안 및 사례 / HP코리아 차성호 이사 4. AEC 산업을 위해 진화하는 공간지능 기술 / 에스엘즈 정재헌 대표 5. Unity Asset Manager로 혁신하는 CAD 데이터 관리와 실시간 협업 / 유니티코리아 김현민 Senior Solutions Engineer 6 CAD와 Unity의 만남: 새로운 비즈니스 수익 모델과 창의적 혁신 / 메가존클라우드 홍동희 Unity 유닛 Tech 그룹장 7. AI 이미지 인지기술 기반 3D 도면 생성  방안 및 적용 솔루션(CADian AI-CAD) 소개 / 캐디안 한명기 상무 8. 모빌리티 XR 사례와 AI 융합 기술의 미래 / 이노시뮬레이션 이지선 CTO 2일차(9월 12일) - AI 비주얼 트렌드 & 응용 1. [기조연설] AI 시대, 그래픽 디자인 방식의 패러다임 변화와 혁신 사례/ 서울미디어대학원대학교 유훈식 교수 2. 언리얼 엔진을 활용한 제조 SW 개발의 신속한 프로토타이핑 및 의사결정 / 현대자동차 신종호 책임 3. Image Gen.AI를 활용한 업무 생산성 향상 방안 / LG CNS 이희재 팀장 4. 이미지부터 3D까지: 크리에이터가 알려주는 생성형 AI 영상 제작 / 아이스케이프 조세희 대표 5. 크리에이터를 위한 AI 에이전트 활용과 바이브 코딩 / AI팩토리 김태영 대표 6. AI 툴로 구현하는 나만의 비주얼 세계: 실무 적용과 아트워크 융합 사례 / IUM SPACE 이윰 대표 7. [기조연설] XR과 인공지능의 만남: XR 콘텐츠의 무한한 가능성과 초연결 콘텐츠의 미래 / 고려대학교 박진호 교수

세일즈포스는 박세진 엔터프라이즈 세일즈 부문 부사장을 세일즈포스 코리아 신임 대표이사로 선임했다고 밝혔다. 박세진 대표는 8월부터 세일즈포스의 한국 시장 내 비즈니스 전반을 총괄하며, 국내 기업이 AI 혁신을 통해 비즈니스 성과를 창출하고 AI 에이전트를 활용해 경쟁력을 강화할 수 있도록 지원하는 데 집중할 예정이다. 세일즈포스에 따르면 박세진 대표는 2024년 합류 이후 엔터프라이즈 세일즈 조직을 이끌며 AI CRM과 AI 에이전트를 중심으로 한 영업 전략을 추진해 왔다. 특히 그는 국내 주요 기업들의 AI CRM 도입을 지원해 고객 경험 혁신과 두 자릿수 이상의 생산성 향상이라는 성과 달성을 이끌었으며, AI CRM을 고객 성공과 세일즈포스 코리아의 성장을 견인하는 핵심 동력으로 자리매김시켰다.     박세진 대표는 세일즈포스 합류 전 SAP, 워크데이, 오라클 등 글로벌 IT 기업에서 20여 년간 경험을 쌓으며, 세일즈 및 비즈니스 성장을 이끄는 리더십을 입증했다. 또한 고려대학교 산업공학 석사 학위를 통해 AI와 이커머스 분야의 전문성을 확보함에 따라 비즈니스와 AI를 결합한 혁신 전략에 대한 깊은 이해도를 갖추고 있다. 세일즈포스는 이번 인사를 통해, 산업별 특화 AI 전략과 실행력을 강화하고 AI 에이전트를 중심으로 국내 기업의 AI 혁신 여정을 가속화하는 데 몰두할 예정이라고 밝혔다. 박세진 대표는 앞으로 세일즈포스 코리아의 비즈니스를 총괄하는 대표이사로서 국내 고객과의 접점을 확대하는 동시에 제조, 금융, 리테일, 소비재, 헬스케어 등 AI 활용 수요가 폭발적으로 증가하고 있는 주요 산업군을 집중 공략할 계획이다. 특히, AI 에이전트 기술을 기반으로 고객이 체감할 수 있는 실질적 성과와 새로운 비즈니스 모델 창출을 견인하는 데 주력한다. 박세진 신임 대표는 “AI가 비즈니스 운영과 고객경험 전반을 재정의하고 있는 중요한 시점에 한국 시장 내 세일즈포스의 성장을 이끌 중책을 맡게 되어 매우 뜻깊다”며, “국내 기업들이 겪고 있는 다양한 AI 혁신 과제를 함께 해결하고, 글로벌 경쟁력을 높일 수 있도록 신뢰할 수 있는 전략적 파트너로서 역할을 강화해 나가겠다”라고 언급했다. 한편, 6년 이상 세일즈포스 코리아 조직 전반을 총괄한 손부한 전 대표는 세일즈포스 코리아에서 비즈니스 자문 및 고문 역할을 수행할 계획이다.

오라클이 자사의 데이터베이스 포트폴리오 및 SaaS 애플리케이션 전반에 오픈AI의 GPT-5를 도입했다고 밝혔다. 이번 도입에는 오라클 퓨전 클라우드 애플리케이션(Oracle Fusion Cloud Applications), 오라클 넷스위트(Oracle NetSuite), 오라클 헬스(Oracle Health)와 같은 오라클 인더스트리 애플리케이션(Oracle Industry Applications)이 포함된다. 오라클은 “신뢰할 수 있는 비즈니스 데이터와 최첨단 AI를 결합해 기업 고객이 핵심 비즈니스 워크플로에서 정교한 코딩 및 추론 기능을 기본적으로 활용할 수 있도록 지원한다”고 전했다. GPT-5는 현재까지 공개된 오픈AI의 모델 중 가장 지능적이고, 빠르며 유용한 모델이면서 코드 생성과 편집, 디버깅에 최적화되어 있다. 또한 기업 환경에서 고도화된 에이전트 기능과 정교한 추론 역량을 제공한다. API에서 세 가지 규모로 제공되는 GPT-5는 기업의 다양한 요구사항을 충족시킬 수 있는 유연성과 확장성을 제공하고, 챗GPT 엔터프라이즈(ChatGPT Enterprise)에서도 이용 가능하다. 오라클은 GPT-5를 도입함으로써 비즈니스 프로세스 전반에서 다단계 추론 및 오케스트레이션을 강화하고 코드 생성, 버그 해결, 문서화 속도를 높일 수 있을 것으로 보고 있다. 또한, 비즈니스 인사이트 및 권고 사항의 정확성과 깊이도 강화할 수 있을 전망이다.     오라클의 크리스 라이스 데이터베이스 소프트웨어 개발 부문 수석 부사장은 “오라클 데이터베이스 23ai의 데이터 AI 역량과 GPT-5의 결합은 기업이 획기적인 인사이트를 얻고, 혁신 및 생산성 향상을 달성하는 데 도움을 줄 것”이라면서, “오라클 AI 벡터와 셀렉트 AI(Select AI)가 GPT-5와 결합되면 데이터 검색 및 분석이 더 쉽고 효율적이게 된다. 오라클의 SQLcl MCP 서버는 GPT-5가 오라클 데이터베이스의 데이터에 손쉽게 접근할 수 있도록 한다. 이러한 기능은 사용자가 전체 데이터를 대상으로 검색을 수행하고, 보안성이 확보된 AI 기반 작업을 실행하며, SQL을 통해 생성형 AI를 직접 사용할 수 있도록 지원하여 엔터프라이즈 데이터에서 AI의 잠재력을 극대화한다”고 전했다. 오라클의 미튼 바브사 애플리케이션 개발 부문 수석 부사장은 “GPT-5는 오라클 퓨전 애플리케이션 사용자에게 오픈AI의 정교한 추론과 심층적 사고 역량을 제공할 것”이라면서, “오픈AI의 최신 모델은 고급 자동화와 높은 생산성, 신속한 의사결정을 가능하게 하는 역량으로 더욱 고도화된 AI 에이전트 기반 프로세스를 지원할 수 있을 것”이라고 말했다.

구글은 국내 대학생 및 대학원생들이 AI 기술을 더 쉽게 활용하도록 돕고, 캠퍼스 생활 전반에 AI 활용 문화를 확산하기 위해 ‘구글 AI 프로(Google AI Pro)’ 요금제를 1년간 무료 제공하는 한편, 대학(원)생 앰배서더 프로그램도 운영한다고 밝혔다. 이번 대학(원)생 한정 ‘구글 AI 프로’ 플랜은 만 18세 이상의 국내 대학생이 학교 이메일 인증을 완료하고 계정을 등록하면, 개인 구글 계정 1개에 한해 ‘구글 AI 프로’ 요금제를 1년간 무료로 이용할 수 있다. 8월 7일부터 10월 6일까지 전용 링크에서 신청 가능하며, 신청한 학생은 멀티모달 검색, 코딩 지원, 동영상 생성 등 ‘구글 AI 프로’의 고급 기능을 1년간 자유롭게 경험할 수 있다. ‘구글 AI 프로’는 구글의 AI 모델인 ‘제미나이 2.5 프로(Gemini 2.5 Pro)’를 기반으로 한 요금제로, 과제나 글쓰기 등 학업 전반에 대한 빠른 지원은 물론, 수백 개의 웹사이트에서 복잡한 주제에 대한 정보를 수집해 요약해주는 ‘딥 리서치(Deep Research)’, 5배 더 많은 AI 오디오와 동영상 개요가 지원되는 AI 기반 사고 툴 ‘노트북LM(NotebookLM)’, 텍스트나 이미지를 입력하면 오디오와 함께 8초 분량의 영상을 생성해주는 ‘비오 3(Veo 3)’, 버그 수정부터 기능 개발까지 지원하는 AI 코딩 에이전트 ‘줄스(Jules)’ 등 다양한 생성형 AI 툴을 제공한다. 또한, 사진, 문서, 과제 등을 저장할 수 있는 2TB 용량의 저장 공간도 함께 제공된다. 구글은 이번 ‘구글 AI 프로’ 지원이 단순한 설루션 제공을 넘어, 학생들의 사고력과 이해도를 높이는 AI 기반 학습 파트너 역할도 할 것으로 기대하고 있다. 예를 들어, 복잡한 수학 문제를 단계별로 해결하거나 논리적인 글쓰기 구조를 함께 설계할 수 있는 ‘가이드 학습(Guided Learning)’, 강의 자료를 바탕으로 핵심을 정리해주는 맞춤형 학습 가이드(Study Guides), 이미지 및 영상 등을 활용한 인터랙티브 퀴즈 기능을 통해 학생들이 개념을 스스로 익히고 더 깊이 있는 학습으로 이어질 수 있도록 지원한다. 특히, 멀티모달 응답 기능을 통해 학습 몰입도와 이해도를 한층 높일 수 있는 것이 특징이다. 이 밖에도, 캔버스(Canvas)로 친구들과의 추억을 쌓을 수 있는 게임 만들기, 비오 3를 활용한 재미난 밈 제작, 학교 축제를 위한 아이디어 브레인스토밍 등에도 활용할 수 있다.      한편, 구글은 이번 대학(원)생 전용 무료 혜택의 인지도를 높이고 학생들의 AI 활용 문화 확산을 위해 전국 20여 개 대학교에서 선발된 총 100명의 앰배서더를 대상으로 '제미나이 대학생 앰배서더’ 프로그램도 운영한다고 전했다. 최종 선발된 학생들은 오는 8월 11일 발대식을 시작으로, 12월까지 약 5개월 간 자체 콘텐츠 제작, 오프라인 캠페인, 커뮤니티 연계 활동 등 다양한 홍보 활동과 실습 프로그램을 통해 캠퍼스 내외에서 제미나이 활용법을 소개하고, AI 기술 중심의 캠퍼스 문화 조성에 참여할 예정이다. 발대식에는 유튜브 메가 크리에이터 ‘미미미누’가 명예 앰버서더 자격으로 참석할 예정이다. 최종 선발된 학생들에게는 구글 AI 기술 기반 콘텐츠 제작에 필요한 다양한 툴이 제공되며, 일부 대학 캠퍼스에서는 학생 참여형 AI 실습 이벤트인 ‘스트리트 AI 챌린지’도 진행될 예정이다. 구글 관계자는 “이번 대학(원)생 전용 ‘구글 AI 프로’ 요금제와 대학생 앰배서더 프로그램은 대학생들이 AI 기술을 실질적인 학습 도구로 활용해 AI 기술에 대한 접근성을 높이고, 더 창의적이고 실용적인 방식으로 경험을 확장하도록 지원하기 위해 기획됐다”며, “앞으로도 구글은 더 많은 학생들이 AI를 통해 성장하고 기회를 넓혀가도록 지속적으로 지원할 것”이라고 밝혔다.

가트너(Gartner)가 ‘2025 AI 하이프 사이클(2025 Gartner Hype Cycle for Artificial Intelligence)’ 보고서를 통해 주목해야 할 주요 AI 혁신 기술을 발표했다. 가트너는 2025년 가장 빠르게 발전하는 기술로 ‘AI 에이전트(AI Agents)’와 ‘AI 레디(AI-Ready) 데이터’를 꼽았다. 이들 기술은 올해 높은 관심을 받고 있으며, 낙관적인 전망 및 투기적인 약속이 이어지면서 부풀려진 기대의 정점에 도달한 것으로 나타났다. 가트너 하이프 사이클은 기술 및 애플리케이션의 성숙도와 도입 현황을 시각적으로 표현하고, 실제 비즈니스 문제 해결 및 새로운 기회 창출과의 잠재적 연관성을 제시한다. 이 방법론은 시간 흐름에 따른 기술 또는 애플리케이션 발전 과정을 조망하고, 특정 비즈니스 목표의 맥락에서의 효과적인 도입 관리를 위한 신뢰 있는 인사이트를 제공한다.     AI 에이전트는 AI 기술을 활용해 디지털, 물리 환경에서 인지하고, 의사결정을 내리며, 행동을 수행하고 목표를 달성하는 자율 또는 반자율 소프트웨어다. 기업은 대형 언어 모델(LLM)을 비롯한 다양한 AI 기술과 사용 사례를 활용해 복잡한 작업을 수행할 수 있는 AI 에이전트를 개발 및 배포하고 있다. AI 레디 데이터는 데이터 세트가 AI 애플리케이션에 최적화되도록 보장해 정확성과 효율성을 향상시킨다. 데이터의 준비 상태는 특정 AI 사용 사례에 대해 얼마나 적합한 데이터인지로 결정되며, 이는 해당 사용 사례와 AI 기술 맥락에서 결정될 수 있다. 이는 데이터 관리에 대한 새로운 접근 방식을 요구한다. 가트너는 AI에 대규모로 투자하는 기업이 데이터 관리 관행과 역량을 AI 환경에 맞게 발전시켜야 한다고 조언했다. 이를 통해 기존 및 향후 비즈니스 요구사항 충족, 신뢰 확보, 위험 및 준수 문제 방지, 지적 재산 보호, 편향과 환각 감소를 달성할 수 있다고 전했다. 또한, 가트너는 ‘멀티모달(Multimodal) AI’와 ‘AI 신뢰, 위험, 보안 관리(TRiSM)’가 향후 5년 내 AI 혁신 기술의 주류가 될 것이며 부풀려진 기대의 정점을 주도하고 있다고 분석했다. 이러한 기술 발전은 보다 강력하고 혁신적이며 책임감 있는 AI 애플리케이션을 구현해 기업의 운영 방식을 변화시킬 것으로 전망된다. 멀티모달 AI는 이미지, 비디오, 오디오, 텍스트 등 여러 유형의 데이터를 동시에 학습하는 모델이다. 다양한 데이터 소스를 통합하고 분석함으로써 단일 유형의 데이터만 사용하는 모델보다 복잡한 상황을 더 효과적으로 이해할 수 있다. 이를 통해 사용자에게 더 명확한 정보를 제공하고 AI 애플리케이션의 새로운 가능성을 열 수 있다. 가트너는 멀티모달 AI가 향후 5년 동안 모든 산업 분야의 애플리케이션과 소프트웨어 제품의 성능 향상에 점점 더 필수 요소로 자리 잡을 것으로 전망했다. AI TRiSM은 윤리적이고 안전한 AI 도입을 위한 핵심 기술 프레임워크이다. 이는 모든 AI 사용 사례에 대한 기업 정책을 지원하고, AI 거버넌스, 신뢰성, 공정성, 안전성, 보안, 개인정보 보호, 데이터 보호를 보장하는 기술 계층으로 구성되어 있다. 가트너의 하리타 칸다바투(Haritha Khandabattu) 시니어 디렉터 애널리스트는 “올해도 AI에 대한 투자가 활발하게 이어지는 가운데 운영 확장성, 실시간 인텔리전스를 위한 AI 활용이 주목받고 있다”며, “생성형 AI 중심에서 AI 에이전트, AI 레디 데이터와 같은 지속 가능한 AI 제공을 지원하는 기반 기술로 이동하는 추세”라고 전했다. 이어서 칸다바투 시니어 디렉터 애널리스트는 “AI는 막대한 비즈니스 잠재력을 가지고 있지만 이는 저절로 실현되지 않는다. 목표 달성을 위한 핵심은 비즈니스와 연계된 파일럿 프로젝트, 인프라 벤치마킹, 가치 창출을 위한 AI와 비즈니스 팀 간 협력”이라고 강조했다.

BIM 칼럼니스트 강태욱의 이슈 & 토크   이번 호에서는 최근 이슈인 AI 에이전트(agent) 개발 시 필수적인 함수 호출(function call) 방법을 오픈소스를 이용해 구현해 본다. 이를 위해 구글에서 공개한 젬마 3(Gemma 3) LLM(대규모 언어 모델)과 역시 오픈소스인 LLM 관리도구 올라마(Ollama)를 활용하여 간단한 AI 에이전트를 로컬 PC에서 개발해본다. 아울러, 이런 함수 호출 방식의 한계점을 개선하기 위한 설루션을 나눔한다.   ■  강태욱 건설환경 공학을 전공하였고 소프트웨어 공학을 융합하여 세상이 돌아가는 원리를 분석하거나 성찰하기를 좋아한다. 건설과 소프트웨어 공학의 조화로운 융합을 추구하고 있다. 팟캐스트 방송을 통해 이와 관련된 작은 메시지를 만들어 나가고 있다. 현재 한국건설기술연구원에서 BIM/ GIS/FM/BEMS/역설계 등과 관련해 연구를 하고 있으며, 연구위원으로 근무하고 있다. 페이스북 | www.facebook.com/laputa999 블로그 | http://daddynkidsmakers.blogspot.com 홈페이지 | https://dxbim.blogspot.com 팟캐스트 | www.facebook.com/groups/digestpodcast   이번 호의 글은 다음 내용을 포함한다. AI 에이전트 구현을 위한 사용자 도구 함수 호출 방법 올라마를 통한 젬마 3 사용법 채팅 형식의 프롬프트 및 메모리 사용법 그라디오(Gradio) 기반 웹 앱 개발   그림 1. AI 에이전트 내부의 함수 호출 메커니즘(Akriti, 2025)   이 글의 구현 코드는 다음 링크에서 확인할 수 있다. AI_agent_simple_function_call   젬마 3 모델의 특징 젬마 3는 구글이 개발해 2025년 3월 10일에 출시한 LLM이다. 차세대 경량 오픈 멀티모달 AI 모델로, 텍스트와 이미지를 동시에 처리할 수 있는 기능을 갖추고 있다. 이 모델은 다양한 크기와 사양으로 제공되어 단일 GPU 또는 TPU 환경에서도 실행 가능하다. 젬마 3는 1B, 4B, 12B, 27B의 네 가지 모델 크기로 제공되며, 각각 10억, 40억, 120억, 270억 개의 파라미터를 갖추고 있다. 1B 모델은 텍스트 전용으로 32K 토큰의 입력 컨텍스트를 지원하고, 4B/12B/27B 모델은 멀티모달 기능을 지원하며 128K 토큰의 입력 컨텍스트를 처리할 수 있다. 이는 이전 젬마 모델보다 16배 확장된 크기로, 훨씬 더 많은 양의 정보를 한 번에 처리할 수 있게 해 준다. 이 모델은 텍스트와 이미지 데이터를 동시에 처리하고 이해하는 멀티모달 기능을 제공한다. 이미지 해석, 객체 인식, 시각적 질의응답 등 다양한 작업을 수행할 수 있으며, 텍스트 기반 작업에 시각적 정보를 효과적으로 활용할 수 있도록 지원한다.   그림 2. 출처 : ‘Welcome Gemma 3 : Google's all new multimodal, multilingual, long context open LLM(Hugging Face)’   그림 3. 출처 : ‘Welcome Gemma 3 : Google's all new multimodal, multilingual, long context open LLM(Hugging Face)’   젬마 3는 140개 이상의 언어를 지원하여 전 세계 다양한 언어 사용자를 대상으로 하는 AI 애플리케이션 개발에 매우 유리하다. 사용자는 자신의 모국어로 젬마 3와 상호작용할 수 있으며, 다국어 기반의 텍스트 분석 및 생성 작업도 효율적으로 수행할 수 있다. 이 모델은 다양한 작업 수행 능력을 갖추고 있다. 질문–답변, 텍스트 요약, 논리적 추론, 창의적인 텍스트 형식 생성(시, 스크립트, 코드, 마케팅 문구, 이메일 초안 등), 이미지 데이터 분석 및 추출 등 광범위한 자연어 처리 및 컴퓨터 비전 관련 작업을 수행할 수 있다. 또한, 함수 호출 및 구조화된 출력을 지원하여 개발자가 특정 작업을 자동화하고 에이전트 기반의 경험을 구축하는 데 도움을 준다. 젬마 3는 다양한 도구 및 프레임워크와 원활하게 통합된다. Hugging Face Transformers, Ollama, JAX, Keras, PyTorch, Google AI Edge, UnSloth, vLLM, Gemma. cpp 등 다양한 개발 도구 및 프레임워크와 호환되어 개발자들이 자신이 익숙한 환경에서 젬마 3를 쉽게 활용하고 실험할 수 있다. 이 모델은 다양한 벤치마크 테스트에서 동급 모델 대비 최첨단 성능을 입증했다. 특히, Chatbot Arena Elo Score에서 1338점을 기록하며, 여러 오픈 소스 및 상용 모델보다 높은 성능을 보였다.  젬마 3는 오픈 모델로, 개방형 가중치를 제공하여 사용자가 자유롭게 조정하고 배포할 수 있다. 캐글(Kaggle)과 허깅 페이스(Hugging Face)에서 다운로드 가능하며, Creative Commons 및 Apache 2.0 라이선스를 따름으로써 개발자와 연구자에게 VLM 기술에 대한 접근성을 높여준다.   개발 환경 개발 환경은 다음과 같다. 미리 설치 및 가입한다. 오픈 LLM 관리 도구 올라마 : https://ollama.com/download/ windows LLM 모델 젬마 3 : https://ollama.com/search dashboard 웹 검색 도구 Serper 서비스 가입 : https://serper.dev/ 설치되어 있다면 다음 명령을 터미널(윈도우에서는 도스 명령창)에서 실행한다. ollama pull gemma3:4b     ■ 자세한 기사 내용은 PDF로 제공됩니다.

아마존웹서비스(AWS)는 최근 진행한 설문조사를 통해 국내 기업들의 AI 활용 현황과 과제를 짚었다. 또한, 신뢰할 수 있는 고성능의 인공지능 에이전트(AI agent)를 구축하고 배포할 수 있는 환경을 제공하면서 한국 시장에 지원을 강화하고 있다고 밝혔다. AWS는 AI의 도입과 활용 과정에서 기업이 겪는 기술적 어려움을 줄이고, 더 많은 기업이 쉽고 안전하게 생성형 AI를 도입하여 비즈니스 가치를 창출할 수 있도록 돕는 데 집중하고 있다. ■ 정수진 편집장    기업의 AI 도입률 높지만…고도화 위한 과제는?  AWS와 스트랜드 파트너스(Strand Partners)는 2025년 4월 한국 기업 1000곳과 일반인 1000명을 대상으로 AI에 대한 행동과 인식에 대한 설문조사를 진행하고, 그 결과를 바탕으로 한국 기업의 AI 활용 현황을 평가했다. 이 조사는 유럽에서는 3년째 진행되어 왔는데, 이번에 글로벌로 확장해 동일한 방법론을 적용했다. 스트랜드 파트너스의 닉 본스토우(Nick Bonstow) 디렉터는 설문조사 보고서의 내용을 소개하면서, 한국 기업의 AI 도입 현황과 주요 과제를 분석했다. 조사에서는 한국 기업의 48%가 AI를 도입 및 활용하고 있는 것으로 나타났는데, 이는 전년 대비 40% 성장한 수치이다. 유럽 기업의 평균 AI 도입률인 42%보다 높았는데, 특히 지난해에만 약 49만 9000 개의 한국 기업이 AI를 처음 도입한 것으로 추정된다. 본스토우 디렉터는 “AI를 도입한 기업들은 실질적인 이점을 경험하고 있다. 56%가 생산성 및 효율성 향상으로 매출 증가를 경험했고, 79%는 업무 생산성 향상 효과를 확인했다. 그리고 AI 도입에 따라 주당 평균 13시간의 업무 시간을 절감했다”고 소개했다. AI 도입률은 높지만, 국내 기업의 70%는 여전히 챗봇이나 간단한 반복 업무 자동화와 같은 기초적인 수준의 AI 활용에 머무르고 있는 상황이다. AI를 다양한 업무 영역에 통합하는 중간 단계는 7%, 여러 AI 도구나 모델을 결합하여 복잡한 업무를 수행하거나 비즈니스 모델을 혁신하는 변혁적 단계는 11%에 불과했다. 본스토우 디렉터는 “기업들이 AI의 잠재력을 완전히 활용하기 위해 더 높은 단계로 나아가야 할 필요가 있다”고 짚었다. 본스토우 디렉터는 국내 기업의 AI 도입이 양극화되고, AI 혁신의 편차를 키울 수 있다고 전했다. 한국 스타트업의 70%가 AI를 확대하고 있는데 이는 유럽의 58%보다 높은 수치로, 국내 스타트업 생태계는 AI 도입에서 뚜렷한 강점을 보였다. 스타트업의 33%는 AI를 비즈니스 전략 및 운영의 핵심 요소로 두고 있으며, 32%는 가장 고도화된 방식으로 AI를 활용하고 있다. 또한, 21%는 AI 기반의 새로운 제품 및 서비스를 개발 중이다. 반면, 국내 대기업의 69%는 여전히 AI를 효율 개선, 업무 간소화 등 기초적인 수준에서만 활용하고 있는 것으로 나타났다. 대기업의 10%만이 AI 기반 신제품 또는 서비스 개발 단계에 진입했는데, 이는 스타트업의 절반 수준이다. 이번 조사에서는 AI 도입의 주요 장애 요인으로 기술 및 디지털 인재의 부족, 자금 접근성, 규제 환경 등이 꼽혔다. 조사 응답 기업의 43%가 디지털 인재를 확보하지 못해 AI 도입 또는 확산에 어려움을 겪고 있다고 응답했고, 지난 1년간 디지털 역량 교육에 참여한 직원은 약 34%였다. 67%의 기업은 정부의 지원 정책이 AI 도입 결정에 중요하다고 응답했으며, 45%의 스타트업은 벤처 자본 56 · 접근성이 성장을 위한 핵심 요소라고 평가했다. 그리고 국내 기업들은 기술 예산 가운데 평균 23%를 규제 준수 비용에 투입하고 있으며, 34%는 AI 기본법 등 관련 입법으로 인해 이 비용이 증가할 것으로 예상했다. 본스토우 디렉터는 “한국이 AI 부문에서 세계를 선도할 수 있는 인프라와 스타트업 생태계 그리고 강한 열정을 가지고 있음을 확인했다. 하지만 AI 활용의 깊이를 더해주는 변혁적인 활용으로 나아가지 못하고 있는 점과 인재 부족, 규제 불확실성 등의 장애 요인을 해결해야 AI를 미래의 성장 동력과 경쟁력의 원천으로 삼을 수 있을 것”이라고 평가했다. 그리고, 이를 위해 한국 정부가 ▲기술 인재에 대한 투자 ▲혁신 친화적이고 명확한 규제 환경 조성 ▲공공 부문의 기술 현대화 및 디지털 전환 추진 등에 관심을 기울일 것을 제안했다.   ▲ AWS 김선수 AI/ML 사업 개발 수석 스페셜리스트   기업의 생성형 AI 활용 문턱 낮춘다 AWS의 김선수 AI/ML 사업 개발 수석 스페셜리스트는 국내 기업들이 AI를 잘 활용할 수 있도록 돕는 AWS의 생성형 AI 기술 스택과 주요 서비스를 소개했다. 그는 “2023년이 생성형 AI 개념 검증(PoC)의 해였다면 2024년은 생산 적용, 2025년은 비즈니스 가치 실현의 해가 될 것”이라고 짚었다. 또한 복잡한 작업을 자율적으로 수행하는 에이전트 AI에 대한 관심이 커지고 있다면서, 가트너(Gartner)의 전망을 인용해 “2026년까지 기업의 80% 이상이 생성형 AI API(애플리케이션 프로그래밍 인터페이스)를 사용하거나 관련 기능이 탑재된 애플리케이션을 배포할 것”이라고 전망했다. AWS는 생성형 AI를 위한 기술 스택을 세 가지 계층으로 제공한다. 가장 아래쪽에는 GPU, AI 프로세서 등을 포함해 모델 훈련과 추론에 필요한 인프라 레이어가 있고, 중간에는 AI 모델에 연결하여 각 기업에 최적화된 생성형 AI 애플리케이션을 구현하도록 돕는 모델/도구 레이어, 가장 위쪽에는 복잡한 개발 없이 쉽고 빠르게 활용할 수 있는 생성형 AI 애플리케이션 레이어가 있다. 이 기술 스택의 핵심으로 AWS가 내세운 것이 아마존 베드록(Amazon Bedrock)이다. 베드록은 생성형 AI 애플리케이션을 쉽게 구축하고 확장할 수 있도록 지원하는 완전 관리형 서비스이다. 앤트로픽, 메타, 미스트랄 AI 등 12개가 넘는 AI 기업의 파운데이션 모델(FM)을 선택해 활용할 수 있다는 점이 특징이다. 아마존 베드록은 비용, 지연 시간, 정확도를 최적화할 뿐만 아니라 기업의 필요에 맞게 모델을 맞춤 설정하거나 유해 콘텐츠/프롬프트 공격 등을 필터링해 안전한 AI 활용 환경을 갖출 수 있도록 돕는다. 김선수 수석 스페셜리스트는 “베드록은 프롬프트 엔지니어링, 검색 증강 생성(RAG), 미세조정(파인 튜닝) 등 다양한 방식으로 모델을 활용할 수 있도록 지원한다. 특히 RAG 구현을 위한 지식 베이스 및 벡터 검색 기능을 기본으로 제공해, 기업의 내부 데이터를 안전하게 연결하고 관련성 높은 답변을 생성할 수 있다”고 전했다. 최근 생성형 AI는 어시스턴트(assistant)를 넘어 워크플로를 자동화하는 에이전트(agent)로 진화하고 있으며, 궁극적으로는 사람의 개입 없이 AI끼리 자율적으로 협업하는 에이전틱 AI(agentic AI) 시스템으로 나아갈 것으로 보인다. AWS는 생성형 AI 에이전트 구축을 위해 ▲아마존 Q 디벨로퍼(Amazon Q Developer)와 같이 사전 구축된 에이전트 제품 ▲아마존 베드록 에이전트(Amazon Bedrock Agents)와 같이 내장된 오케스트레이션을 제공하는 완전 관리형 설루션 ▲스트랜드 에이전트(Strands Agents)와 같은 경량 오픈소스 SDK(소프트웨어 개발 키트)를 활용해 직접 에이전트를 구축할 수 있는 제품 등을 선보이고 있다.    ▲ AWS는 AI 에이전트의 구축과 배포를 위해 다양한 기술을 제공한다.     ■ 기사 내용은 PDF로도 제공됩니다.

디지털 지식전문가 조형식의 지식마당   인공지능(AI)은 단순한 기술을 넘어 우리의 삶과 산업 전반을 재편하는 거대한 흐름이 되었고, 이 거대한 흐름 속에서 스마트 디지털 트윈(smart digital twin)과 디지털 스레드(digital thread)는 미래 혁신을 이끌 핵심 동력으로 될 것으로 생각된다. 이번 호 칼럼에서는 AI 시대에 이 두 가지 개념이 왜 필수인지 그 핵심 역할과 의미, 그리고 우리가 직면한 과제를 심층 조명하고자 한다. 미래 제품 개발의 최전선에는 스마트 디지털 트윈이 자리하고 있다. 이는 단순한 물리적 객체의 디지털 복제본을 넘어선다. 우리는 이를 ‘인공지능 중심 디지털 트윈 (AI defined digital twin)’이라고 부르며, 궁극적으로는 AI 에이전트 디지털 트윈으로 진화할 것으로 생각된다.   그림 1. 인공지능 중심의 디지털 트윈과 디지털 스레드의 통합(출처 : Lifecycle Insights)   스마트 디지털 트윈의 핵심은 미래 예측과 시뮬레이션 능력에 있다. 가상 환경과 인공지능 환경에서 미래 제품의 성능과 기능을 사전에 예측하고 다양한 시나리오를 시뮬레이션함으로써, 우리는 현실 세계에서 발생할 수 있는 시행착오를 최소화하고 최적의 설계를 도출할 수 있다. 예를 들어, 자율주행 자동차를 개발할 때 스마트 디지털 트윈은 수십만 가지의 주행 상황을 가상으로 재현하고 AI 모델을 훈련시켜 실제 도로에서의 안전성을 극대화할 수 있다. 이는 제품 개발의 시간과 비용을 획기적으로 절감할 뿐만 아니라, 혁신적인 제품의 출시를 가속화하는 핵심 역할을 수행한다. 그러나 스마트 디지털 트윈이 그 잠재력을 온전히 발휘하기 위해서는 거대한 양의 데이터가 끊김 없이 흐르고, 이 데이터가 의미 있는 정보로 변환되어 AI의 추론과 학습에 활용될 수 있는 환경이 조성되어야 한다. 바로 이 지점에서 디지털 스레드의 역할이 부각된다. 인공지능이 강화되는 스마트 디지털 트윈 환경에서 디지털 스레드는 단순한 연결을 넘어 혁신의 실핏줄과 같은 역할을 수행한다. 이는 정보의 단절, 즉 데이터 사일로(data silo)를 극복하고 정보의 흐름을 원활하게 하는 유일무이한 기술이다. 기존의 단절된 시스템과 프로세스 속에서는 데이터가 각자의 고립된 공간에 갇혀 효율적인 활용이 불가능했다. 디지털 스레드는 이러한 장벽을 허물고, 정보가 마치 혈액처럼 유기적으로 순환하며 지식으로 축적될 수 있도록 도와준다. 디지털 스레드의 핵심 기능은 크게 다섯 가지 유형의 단절된 데이터 사일로를 연결하는 데 있다. 첫째, 제품 수명주기(product lifecycle) 내 소통이다. 요구사항 정의에서부터 제품 스펙, 엔지니어링 BOM(Bill Of Materials), 제조 BOM, Bill of Process, 그리고 서비스 BOM에 이르기까지, 제품의 전 수명주기 단계에서 발생하는 모든 데이터가 디지털 스레드를 통해 끊김 없이 연결된다. 과거에는 각 단계별로 데이터가 사일로화되어 정보 흐름이 원활하지 못했고, 이는 곧 비효율적인 의사결정과 불필요한 재작업으로 이어졌다. 디지털 스레드는 이러한 문제점을 해결하여 제품 개발의 전 과정에서 일관된 정보와 최신 데이터를 공유할 수 있도록 한다. 둘째, 제품 수명주기 관리(PLM)와 인공지능 간의 소통이다. 제품 개발 환경에서 인간의 생각과 인공지능의 추론 기능 간에는 디지털 온톨로지(digital ontology)의 표준적 개념과 디지털 스레드를 통해 다양하고 복잡한 생각과 용어 등이 소통될 필요가 있다. 디지털 스레드는 복잡한 제품 구조, 기능, 요구사항 등을 AI가 이해하고 추론할 수 있도록 의미론적으로 연결하는 다리 역할을 한다. 이를 통해 AI는 단순한 데이터 분석을 넘어, 인간의 의도를 파악하고 창의적인 해결책을 제시하는 진정한 협력자가 될 수 있다. 셋째, 서로 다른 설루션 간의 소통이다. 소프트웨어 형상 관리 설루션, PLM, 요구사항 관리 설루션, 해석 데이터 관리 설루션 등 수많은 서로 다른 설루션이 존재하지만, 이들 간의 데이터 연동은 늘 골칫거리였다. 디지털 스레드는 이처럼 분리된 설루션을 메시(mesh) 관계로 연결하여 데이터가 원활하게 연동될 수 있도록 한다. 마치 거미줄처럼 촘촘하게 연결된 이 망은 각 설루션이 생성하는 데이터가 실시간으로 다른 설루션과 공유되고 활용될 수 있는 기반을 제공한다. 넷째, 서로 다른 조직 간의 소통이다. 마케팅 부서, 기본 설계 부서, 생산 부서, 그리고 최종 서비스 부서 등 각기 다른 용어와 문화를 가진 조직간의 소통은 늘 쉽지 않은 과제였다. 디지털 스레드는 이러한 소통 장벽을 허물고 협업을 원활하게 한다. 각 조직이 사용하는 용어와 개념을 디지털 스레드 위에서 표준화하고 연결함으로써, 오해를 줄이고 목표 지향적인 협업을 가능하게 하는 것이다. 이는 궁극적으로 조직 전체의 시너지를 극대화하고, 혁신적인 아이디어가 자유롭게 교환될 수 있는 환경을 조성한다. 다섯째는 세렌디피티(serendipity)이다. 이런 거미줄 같은 메시 관계에서 오는 네트워크된 지식(Networked Knowledge) 생태계는 이해당사자인 개발책임자, 엔지니어, 생산 엔지니어, 마케팅 전문가, 안전 전문가, 형상관리자 등에게 생각지 못한 발견과 창의적 환경을 제공하며, 자료를 찾는데 소모되는 엄청난 시간과 노력을 절감하게 하며 더 창조적인 작업에 투자할 수 있다.   그림 2. 제품 수명주기의 디지털 스레드 지식 그래프(knowledge graph)(출처 : Eigner Engineering Consult)   이처럼 디지털 스레드는 AI 시대, 특히 스마트 디지털 트윈 환경에서 데이터의 고립을 해소하고, 정보의 흐름을 최적화하며, 궁극적으로는 AI의 잠재력을 최대한으로 끌어내는 필수 기반 기술이라고 할 수 있다. 인공지능 시대에 디지털 스레드를 통한 창조성과 필연적 세렌디피티가 분야 전문가의 유일한 생존 전략이라고 할 수 있다. 그럼에도 불구하고 디지털 스레드는 여전히 많은 이에게 생소하고 도전적인 개념으로 여겨진다. 현장에서는 디지털 트윈 개발에 디지털 스레드가 필수임에도 불구하고 고객을 설득하기 쉽지 않다는 어려움을 토로한다. 심지어 일부 미국 전문가 사이에서는 ‘디지털 스레드 무용론’이 제기되기도 한다. 이러한 오해와 도전은 디지털 스레드가 가지는 혁신적인 속성 때문일 수 있다. 우리가 직면한 과제는 명확하다. 첫째, 설득의 어려움이다. 디지털 스레드의 필요성을 현장의 이해관계자에게 명확히 전달하고 공감대를 형성하는 것이 중요하다. 단기적인 효율 증대 뿐만 아니라 장기적인 관점에서 AI 시대의 경쟁 우위를 확보하는 핵심 요소임을 강조해야 한다. 둘째, 개념의 생소함과 도전적인 특성이다. 현재에도 디지털 스레드에 대해 정확하게 아는 사람이 드물며, 이는 비교적 생소하고 혁신적이며 도전적인 개념이기 때문이다. 따라서 이에 대한 지속적인 교육과 홍보, 그리고 성공 사례 발굴을 통해 이해의 폭을 넓혀야 한다. 그러나 이러한 도전에도 불구하고, 인공지능 시대에 스마트 디지털 트윈에서 디지털 스레드가 필요한 이유는 존재하는 것이 아니라 만드는 것이라는 관점에서 접근해야 한다. 이는 디지털 스레드가 단순히 현존하는 문제를 해결하는 도구를 넘어, 미래의 복잡한 인공지능 기반 시스템을 구축하고 그 잠재력을 최대한 발휘하기 위한 능동적이고 필수적인 기반임을 시사한다. 디지털 스레드는 이미 존재하는 데이터나 시스템을 연결하는 수동적인 도구가 아니다. 그것은 미래에 우리가 만들어낼 혁신 제품과 서비스를 위한 데이터와 정보의 연결고리를 능동적으로 구축하는 의미를 가진다. AI 시대의 복잡성은 끊임없이 새로운 데이터 유형과 상호작용 방식을 요구할 것이다. 디지털 스레드는 이러한 변화에 유연하게 대응하며 새로운 연결고리를 지속적으로 생성하고 발전시키는, 살아있는 유기체와 같다.   ■ 조형식 항공 유체해석(CFD) 엔지니어로 출발하여 프로젝트 관리자 및 컨설턴트를 걸쳐서 디지털 지식 전문가로 활동하고 있다. 현재 디지털지식연구소 대표와 인더스트리 4.0, MES 강의, 캐드앤그래픽스 CNG 지식교육 방송 사회자 및 컬럼니스트로 활동하고 있다. 보잉, 삼성항공우주연구소, 한국항공(KAI), 지멘스에서 근무했다. 저서로는 ‘PLM 지식’, ‘서비스공학’, ‘스마트 엔지니어링’, ‘MES’, ‘인더스트리 4.0’ 등이 있다.     ■ 기사 내용은 PDF로도 제공됩니다.