[AI 이모저모] 마이크로소프트 경량 AI 모델 출시, 구글 AI 무료전자책 등

마이크로소프트, 경량 AI 모델 ‘Phi-3 Mini’ 출시

Microsoft가 경량 AI 모델 ‘Phi-3 Mini’를 새롭게 선보였습니다. 이 모델은 38억 개의 매개변수로 이뤄진 소형 모델이지만, 놀랍게도 성능은 10배 큰 대형 모델 수준이라고 하네요.

Phi-3 Mini가 주목받는 이유는 스마트폰 같은 개인 디바이스에서도 충분히 구동할 수 있다는 점입니다. 실제로 스마트폰에서 돌려봤는데 1.8GB의 적은 메모리만으로도 MMLU 69%, MT 벤치마크 8.38 등 상당한 수준의 성능을 발휘했다고 합니다.

이렇게 작지만 강력한 성능을 낼 수 있는 이유는 Phi-3 Mini가 정제된 데이터셋과 합성 데이터로 훈련되었기 때문입니다. 이를 통해 강인성과 안전성, 대화 능력 최적화 등의 이점을 얻었다고 하네요.

Microsoft AI 플랫폼 부서 Eric Boyd 부사장은 “Phi-3 Mini는 GPT-3.5만큼 유능하지만 훨씬 작은 크기”라며 자신했습니다.

Phi-3 Mini는 Phi-3 모델군 중 첫 번째 제품일 뿐입니다. 머지않아 7B 매개변수를 가진 ‘Phi-3 Small’과 14B 매개변수의 ‘Phi-3 Medium’ 등도 출시될 예정이라고 하네요.

최근 AI가 개인 디바이스에서도 구동되기 시작하면서 이런 경량 AI 모델 기술이 주목받고 있습니다. 이를 통해 개인화된 AI 서비스가 가능해질 것으로 보이는데요. 앞으로 우리 일상에서 AI를 더욱 가까이에서 만나게 될 것 같습니다.

관련 기사

구글, AI 프롬프트 최적화를 위한 새로운 무료전자책 배포

최근 AI 챗봇이 점점 더 대중화되면서 구글에서도 AI 모델과 효과적으로 대화하는 방법에 대한 가이드를 내놓았는데요. 바로 ‘프롬프트 가이드 101’ 시리즈와 전자책이 그것입니다.

이 자료들은 구글의 대화형 AI 모델 ‘Gemini’를 활용할 때 도움이 되도록 만들어졌습니다. 좋은 프롬프트를 작성하는 방법부터 다양한 상황에서의 프롬프트 예시까지 상세히 담겨 있습니다.

프롬프트를 구성할 때는 크게 네 가지 요소를 고려해야 한다고 합니다. 바로 정보를 요청하는 ‘페르소나’, 수행할 ‘태스크’, 추가적인 ‘컨텍스트’, 그리고 출력 ‘포맷’인데요. 이 네 가지를 적절히 조합하면 AI 모델과 원활한 대화가 가능해진다고 하네요.

‘프롬프팅 가이드 101’ 전자책에는 일반적인 프롬프팅 팁뿐만 아니라 마케팅, 고객서비스 등 업무별로 프롬프트를 작성하는 예시도 담겨 있습니다. 독자분들이 직접 실무에 활용하기에 유용할 것 같아요.

이렇게 구글에서 AI 활용을 위한 무료 자료를 내놓은 것을 보면, 점점 더 AI가 우리 일상에 가까워지고 있다는 걸 실감할 수 있습니다. 아직 AI 프롬프트가 생소하신 분들도 이 자료를 통해 쉽게 익힐 수 있을 것 같습니다.

구글 프롬프팅 가이드 무료 전자책 다운 받기

Perplexity AI, 최신 투자 라운드로 유니콘 기업 지위 획득

AI 검색 스타트업 Perplexity가 구글에 맞서며 상승세를 이어가고 있는데요. 최근 막대한 규모의 투자금을 유치하면서 기업가치가 10억 달러를 넘어섰습니다. 이로써 Perplexity의 기업가치는 기존보다 두 배 이상 뛰어올랐습니다.

이번에 6,270만 달러를 새로 투자받은 Perplexity는 스트라이프, 줌, 브리지워터 등 유수 기업들과 협력하며 기업용 제품 ‘엔터프라이즈 프로’를 선보였습니다. 이 제품은 AI가 생성한 답변을 제공하는 기존 유료 상품보다 두 배 비싼 가격대입니다. 구체적으로는 직원 한 명당 매월 40달러의 요금을 내야 하죠. 그러나 데이터 프라이버시와 사용자 관리 등 강화된 기능을 갖추고 있습니다.

이미 줌, 브리지워터, 데이터브릭스 등 많은 기업들이 엔터프라이즈 프로를 도입해 활용하고 있으며, 호평이 이어지고 있습니다. 이번 투자금은 Perplexity의 글로벌 확장을 위해 쓰일 예정인데요. 올해 초 한국 SK텔레콤과 협력을 시작한 데 이어 일본 소프트뱅크, 독일 도이치텔레콤까지 새 제휴사로 영입했습니다.

기존 기업용 AI는 주로 내부 검색에만 초점이 맞춰져 있었지만, Perplexity는 외부 검색 또한 기업에 중요하다고 판단했습니다. 직원들이 온라인에서 자료를 조사할 때 Perplexity의 검색 툴을 활용하면 매주 수 시간씩 절약할 수 있을 것으로 기대되는데요. 검색 질의를 실제로 이해하는 똑똑한 툴이라는 점에서 주목받고 있습니다.

Perplexity AI 바로 가기

유용한 AI 툴 모음

• Grimo AI : 유튜브, 트위터, 팟캐스트 등 다양한 소스로부터 지식을 수집하고 공유할 수 있는 다용도 AI 도구
• Recraft AI : 리크래프트 AI 도구를 사용하면 일관된 브랜드 스타일로 디지털 일러스트레이션, 벡터 아트, 아이콘 및 3D 그래픽을 생성하고 편집할 수 있습니다.
• GoEnhance AI : 비디오를 다양한 애니메이션 스타일로 변환합니다.