소프트웨어가 인터넷에 연결되지 않았던 때를 기억하십니까? 그렇게 생각하지 않았다. Microsoft의 CTO인 Kevin Scott에 따르면 몇 년 안에 지능형 부조종사 비서와 함께 제공되지 않는 소프트웨어의 경우에도 마찬가지일 것입니다.
Copilot은 최신 AI 및 대규모 언어 모델을 사용하여 판매 홍보물 작성, 놓친 회의 확인에서 프레젠테이션용 이미지 생성 또는 테마 디너 파티 계획에 이르기까지 복잡한 인지 작업을 지원하는 애플리케이션입니다.
Microsoft는 거의 2년 전에 부조종사 개념을 도입했습니다.GitHub 부조종사, 개발자의 코드 작성을 지원하는 AI 쌍 프로그래머. 올해 Microsoft는 핵심 제품 및 서비스 전반에 걸쳐 부조종사 경험을 출시했습니다.Bing의 AI 기반 채팅사람들이 인터넷을 검색하는 방식이 바뀌고 있습니다.마이크로소프트 365 부조종사, GitHub부조종사 X,Dynamics 365 부조종사,Microsoft Viva의 부조종사그리고마이크로소프트 보안 부조종사.
오늘은 연간Microsoft Build 개발자 컨퍼런스, Microsoft는 이 Microsoft Copilots 에코시스템을 확장하여 다음을 포함한다고 발표했습니다.Power BI의 부조종사그리고Power Pages의 부조종사미리보기에서Microsoft Fabric의 부조종사, 곧 미리 보기로 제공되며Windows 부조종사, 6월에 프리뷰로 제공될 예정입니다. 회사는 또한 개발자가 자신의 부조종사 및 차세대 AI 애플리케이션을 구축하는 데 도움이 되는 새로운 기능을 도입했습니다. 여기에는 부조종사가 다른 소프트웨어 및 서비스와 상호 작용할 수 있도록 하여 부조종사를 더욱 유용하게 만드는 플러그인이라는 새로운 도구가 포함됩니다.
"Bing Chat을 보고 이것이 매우 마법처럼 복잡한 것이라고 생각할 수 있지만 Microsoft는 개발자가 자신의 부조종사를 구축하기 시작하는 데 필요한 모든 것을 제공합니다."라고 Scott은 말했습니다. "앞으로 몇 년 동안 이것이 모든 소프트웨어의 작동 방식에 대한 기대치가 될 것이라고 생각합니다."
플러그인 생태계 확장
OpenAI 도입ChatGPT 플러그인3월에. 마이크로소프트 발표Bing용 플러그인이번달 초. 이 기술을 통해 ChatGPT 및 Bing Chat은 예를 들어 OpenTable 플러그인을 사용하여 식당 예약을 찾고 예약하는 데 도움을 줍니다.
오늘날 마이크로소프트는동일한 개방형 플러그인 표준 채택OpenAI가 ChatGPT에 도입하여 ChatGPT와 Microsoft의 부조종사 제품 전반에서 상호 운용성을 가능하게 합니다. 즉, 개발자는 이제 하나의 플랫폼을 사용하여 ChatGPT, Bing, Dynamics 365 Copilot, Microsoft 365 Copilot 및 Windows Copilot을 포함하여 비즈니스 및 소비자 표면 모두에서 작동하는 플러그인을 구축할 수 있습니다. 마이크로소프트도Bing을 ChatGPT에 도입한다고 발표했습니다.기본 검색 환경으로.
이 공유 플러그인 플랫폼의 일부로 Bing은 플러그인 지원을 추가하고 있습니다. OpenTable 및 Wolfram Alpha에 대해 이전에 발표된 것 외에도 Bing 생태계의 다른 많은 것들 중에서 Expedia, Instacart, Kayak, Klarna, Redfin, TripAdvisor 및 Zillow도 포함됩니다.
또한 개발자는 이제 플러그인으로 Microsoft 365 Copilot을 확장할 수 있습니다. Microsoft 365용 플러그인에는 ChatGPT 및 Bing 플러그인뿐만 아니라 Teams 메시지 확장 및 Power Platform 커넥터가 포함되어 있어 개발자가 기존 투자를 활용할 수 있습니다. 또한 개발자는 Visual Studio Code 및 Visual Studio용 Microsoft Teams Toolkit을 사용하여 새 플러그인을 쉽게 구축할 수 있습니다.
플러그인 작동 방식
Microsoft Build에서 회사는 개발자가 자신의 부조종사를 구축하는 데 도움이 되는 AI 개발 프레임워크를 선보였습니다. 이 스택에는 실시간 정보를 검색하고, 회사 또는 기타 비즈니스 데이터를 통합하고, 새로운 유형의 계산을 수행하고, 사용자 대신 안전하게 조치를 취할 수 있도록 함으로써 AI 시스템의 기능을 강화하는 플러그인에 대한 지원이 포함됩니다.
근본적으로 플러그인을 다리로 생각하십시오. 이것은 인터넷의 공개 데이터로 훈련된 대규모 언어 모델과 회사가 그 이점에 대해 비공개로 보관할 수 있는 모든 데이터 사이의 가교 역할을 할 수 있습니다. 플러그인은 회사 직원의 질문에 답할 때 부조종사에게 해당 파일에 대한 액세스 권한을 부여하는 브리지입니다.
마찬가지로 플러그인은 대규모 언어 모델과 회사가 비즈니스 여행을 예약하는 데 사용하는 웹사이트 또는 백엔드 시스템 사이의 다리 역할을 할 수 있으므로 부조종사는 영업 사원의 샌프란시스코 여행을 일정에 맞춰 준비할 수 있습니다. 회사의 여행 정책.
"플러그인은 부조종사 개발자가 부조종사 또는 AI 시스템에 현재 나타나지 않는 기능을 제공하고 데이터에 연결하고 구축 중인 시스템에 연결할 수 있는 기능을 제공하는 방법에 관한 것입니다."라고 Scott은 말했습니다. . "결국 엄청나게 풍부한 플러그인 생태계가 생길 것이라고 생각합니다."
플러그인 생태계 확장
또한 개발자는 다양한 방법으로 자신의 플러그인을 생성, 테스트 및 배포할 수 있습니다. 결국에는 Microsoft Copilot과 함께 사용하기 위해 배포하고 생성 AI 기술로 구축된 자체 애플리케이션의 기능을 강화할 수 있습니다.
예를 들어 대기업의 개발자는 과거에 특정 법적 문제가 어떻게 처리되었는지 질문하기 위해 Microsoft 365 Copilot이 고객 및 공급업체와의 회사 계약에 액세스할 수 있기를 원할 수 있습니다. 이를 위해 개발자는 Microsoft 365 Copilot을 법적 파일의 개인 데이터베이스와 연결해야 합니다. 이를 위해서는 문서를 검색할 수 있는 방식으로 인코딩, 인덱싱 및 저장해야 합니다.
Microsoft의 AI 플랫폼 프로그램 관리 부사장인 John Montgomery는 "이것은 모델에 정보를 로드하는 방식의 패턴입니다."라고 말했습니다. "그리고 그것이 플러그인이 들어오는 곳입니다. 플러그인이 하는 일은 '이봐, 우리는 그 패턴을 재사용 가능하게 만들고 그것이 사용되는 방식에 대한 몇 가지 경계를 설정하고 싶다'고 말하는 것입니다."
Microsoft는 Copilot 표면에서 작동하는 플러그인 생성을 용이하게 하는 일련의 기능을 출시하고 있습니다. Visual Studio Code, GitHub Copilot 및 GitHub Codespaces는 개발자가 예를 들어 새로운 플러그인을 생성, 디버그 및 배포하는 것을 간단하게 만들고 Azure AI는 프라이빗 엔터프라이즈 데이터에서 플러그인을 실행하고 테스트하는 기능을 추가합니다. 일단 생성되면 이러한 플러그인은 Microsoft의 Copilot 환경에서 작동합니다.
Montgomery는 플러그인 추가로 Microsoft 고객이 GPT-4를 포함한 OpenAI의 생성 AI 모델에 대한 액세스를 제공하고 현재 4,500개 이상의 회사에 서비스를 제공하고 있는 Azure OpenAI 서비스를 통해 혁신적인 애플리케이션을 개발할 수 있는 속도를 가속화할 것이라고 언급했습니다.
"Build에서 보게 될 것은 아키텍처 관행, 필요한 도구, 이러한 새로운 부조종사 애플리케이션에 적용하려는 앱 패턴 및 사용자 경험 디자인에 대한 현재 최선의 생각입니다."라고 그는 인터뷰에서 말했습니다. 회의 전에.
나만의 부조종사 구축을 위한 새로운 도구
Scott에 따르면 Microsoft는 생성 AI 기술을 회사의 제품 및 서비스에 배포했지만 개발자는 결국 전 세계 대부분의 부조종사를 구축하게 될 것이라고 합니다.
"그들은 그들 또는 그들의 사용자가 성취하려는 특정한 것을 이해하고, 이 AI 소프트웨어 개발 패턴을 사용하여 해당 사용자를 위해 그러한 것을 만들 것입니다."라고 그는 말했습니다.
Copilot 개발은 모든 소프트웨어 프로젝트와 마찬가지로 아이디어로 시작됩니다. 다른 점은 이 AI 개발 플랫폼이 가능하게 하는 가능성의 영역이라고 Scott은 말했습니다.
그는 이를 스마트폰의 등장과 함께 등장한 새로운 경험과 서비스에 비유한다. 상상할 수 없었던 많은 일들이 가능해졌습니다. 친숙하고 캐주얼한 게임을 위한 앱과 같이 일부는 개발하기가 간단했습니다. 다른 이들은 힘들고 스마트폰 플랫폼의 모든 기능을 활용하여 택시 및 휴가 렌탈 산업을 혼란에 빠뜨린 서비스를 포함하여 새로운 유형의 경험을 창출했습니다.
"그들은 불가능에서 어려움으로 나아갔고, 그들이 어렵고 실제로 새로운 플랫폼의 기능을 사용했기 때문에 그들은 지속적인 성공을 발견했습니다."라고 Scott은 말하면서 유사하게 파괴적인 애플리케이션이 copilot 스택으로 구축될 것이라는 그의 기대를 암시했습니다.
응용 프로그램에 대한 확고한 아이디어가 있으면 개발자는 이를 현실로 전환할 수 있다고 그는 말했습니다. 이 프로세스는 Azure OpenAI Service를 통해 사용할 수 있는 GPT-4와 같은 생성 AI 모델을 선택하는 것으로 시작됩니다. 다음 단계는 부조종사에게 부조종사의 역할과 작동 방식에 대한 기본 설명인 메타 프롬프트를 제공하는 것입니다. 또한 부조종사는 사용자와의 대화를 추적하고 적절한 컨텍스트와 인식으로 응답하기 위한 메모리가 필요합니다. 마지막으로 부조종사는 플러그인이 제공할 수 있는 데이터 및 기타 서비스에 액세스할 수 있는 기능이 필요합니다.
전체 책을 쓰는 것과 같은 복잡한 작업을 지원하기 위해 배치된 부조종사는 작업을 다단계 구성 요소로 나누고 생성된 계획에 따라 작업을 실행하는 기능인 오케스트레이션도 필요합니다.
개발자는 다음과 같은 도구를 사용할 수 있습니다.시맨틱 커널Microsoft가 대규모 언어 모델을 기존 프로그래밍 언어와 통합하기 위해 3월에 오픈 소스로 출시한 소프트웨어 개발 키트입니다. 이 키트에는 메모리 및 오케스트레이션을 위한 도구와 부조종사 개발을 가속화하는 플러그인 지원이 포함되어 있다고 Montgomery는 말합니다.
Microsoft Build에서 회사는 또한 소개했습니다.새로운 도구부조종사 개발을 단순화합니다. 예를 들어 새로운 Azure AI Studio를 사용하여 개발자는 이제 개인 데이터에서 대화형 AI 모델을 보다 쉽게 기반으로 할 수 있습니다. 데이터에 대한 Azure OpenAI Service라는 새로운 기능을 통해 개발자는 자연어 기반 애플리케이션 인터페이스를 사용하여 데이터, 텍스트 및 이미지에서 조직별 인사이트를 발견할 수 있습니다. 대규모 언어 모델의 기능을 더욱 확장하기 위해 Microsoft는 Azure OpenAI 서비스를 통한 플러그인 지원도 발표했습니다. Azure AI는 이제 정교한 프롬프트 엔지니어링 도구인 Azure Machine Learning 프롬프트 흐름도 지원한다고 Montgomery는 말했습니다.
“우리는 이러한 부조종사를 많이 만들었습니다. 우리는 다른 정보를 로드하는 방법, 재현 가능한 콘텐츠를 생성하는 방법, 모델에 올바른 정보를 제공하여 올바른 답변을 제공하는 방법에 대해 다양한 아키텍처를 살펴보았습니다.”라고 그는 말했습니다. "Build는 우리가 배운 모든 것, 우리가 만든 도구를 축하하고 그것을 세상에 내놓는 것입니다."
책임감 있는 AI 업데이트
중요한 것은 개발자가 부조종사가 의도한 결과를 반환하고 편견, 성 차별, 인종 차별, 증오, 폭력 또는 즉각적인 자해를 피하도록 해야 한다고 Microsoft의 파트너 그룹 제품 관리자인 Sarah Bird는 말합니다. 기술.
오늘 Microsoft Build에서 회사는 다음과 같이 발표했습니다.Azure AI 콘텐츠 안전미리보기 중입니다. 이 새로운 Azure AI 서비스는 개발자가 이미지와 텍스트에서 부적절한 콘텐츠를 감지하도록 설계된 모델을 사용하여 더 안전한 온라인 환경과 커뮤니티를 만드는 데 도움이 됩니다. 이 모델은 플래그가 지정된 콘텐츠에 심각도 점수를 할당하여 긴급 조치가 필요한 콘텐츠를 사람 중재자에게 알려줍니다.
“GitHub Copilot을 구동하는 안전 시스템이며 새로운 Bing을 구동하는 안전 시스템의 일부입니다. 우리는 이제 타사 고객이 사용할 수 있는 제품으로 출시하고 있습니다.”라고 Bird는 말했습니다.
Azure AI Content Safety는 Azure OpenAI Service에 통합되어 생성 AI 고객에게 원활한 액세스를 제공합니다. 이 서비스는 온라인 커뮤니티 및 게임 플랫폼과 같은 비 AI 시스템에도 적용할 수 있으며 필터는 컨텍스트에 맞게 미세 조정할 수 있습니다. 예를 들어 게임에서 사용되는 "언덕 넘어 공격"이라는 문구는 게임 시스템이 중간 정도의 심각도 콘텐츠를 차단하도록 구성된 경우 중간 수준의 폭력으로 간주되어 차단됩니다. 중간 수준의 폭력을 수용하도록 조정하면 모델이 문구를 용인할 수 있다고 Bird는 설명했습니다.
또한 마이크로소프트가 발표한새로운 미디어 출처 기능사용자가 이미지 또는 비디오가 AI에 의해 생성되었는지 확인할 수 있는 Microsoft Designer 및 Bing Image Creator에 제공됩니다. 이 기술은 암호화 방법을 사용하여 원본에 대한 메타데이터로 AI 생성 콘텐츠를 표시하고 서명합니다.
개발을 위한 새로운 플랫폼
약 4년 전 Scott과 그의 동료들은 대규모 언어 모델을 기반으로 하는 생성 AI 시스템이 플랫폼이 될 것이라는 가설을 세웠습니다. 이를 통해 개발자는 데이터 가져오기, 모델 선택, 교육, 테스트, 배포 등이 필요한 보다 고전적인 형태의 기계 학습에 비해 상대적으로 적은 노력으로 새로운 애플리케이션과 서비스를 구축할 수 있습니다.
“오늘 우리가 있는 지점은 환상적입니다. GPT-4와 같은 대규모 언어 모델을 사용하여 애플리케이션을 구축할 수 있습니다.”라고 Scott은 말했습니다. "copilot이라는 새로운 애플리케이션 플랫폼을 구축했습니다."
Microsoft는 Copilot이 AI 기반 소프트웨어의 새로운 패러다임과 새로운 제품 시나리오를 상상하는 것부터 사용자 경험, 아키텍처, 사용하는 서비스 및 안전에 대해 생각하는 방법에 이르기까지 소프트웨어 구축 방식의 심오한 변화를 나타낸다고 믿습니다. 그리고 보안. Scott은 Microsoft 에코시스템이 개발자가 종단 간 부조종사를 구축할 수 있는 장소라고 덧붙였습니다.
"부조종사를 만드는 데 필요한 모든 것이 Azure에 있습니다."라고 그는 말했습니다. "그리고 이러한 것들은 서로 매우 잘 작동하므로 다른 방법보다 Azure에서 아이디어를 시도하고 신속하게 반복하는 것이 더 쉬울 것입니다."
관련된
- 자세히 알아보기빙,마이크로소프트 365 부조종사,Dynamics 365 부조종사,Microsoft Viva의 부조종사그리고마이크로소프트 보안 부조종사
- 읽다:6명의 전문가가 차세대 AI를 사용하는 방법
- 읽다:책임 있는 AI 프로그램에 대해 생각해 보기: 진보를 위한 세 가지 중요한 요소
- 읽다:Azure에 대한 Microsoft의 베팅이 AI 혁명을 여는 방법
상단 이미지: Microsoft는 개발자가 자신의 부조종사 및 차세대 AI 앱을 빌드하는 데 도움이 되는 도구를 도입하고 있습니다. Microsoft의 그래픽 제공.
John Roach는 연구와 혁신에 대해 글을 씁니다. 그와 연결링크드인.