|
복잡하지 않으며 Intel CPU 및 Nvidia GPU에서도 작동합니다. AMD가 최근에 자체적으로 실행되는 AI 챗봇을 공개한 것을 보면 Nvidia와 Intel이 뒤쳐지지 않고 자사의 Ryzen 및 Radeon 프로세서를 사용하는 사용자를 위한 자체 솔루션을 발표했다는 것을 알 수 있습니다. 이 가이드는 코딩 경험이 없어도 Ryzen AI PC 칩 또는 RX 7000 시리즈 GPU를 가지고 있는 사용자들이 5~6단계 안에서 자사의 로컬 하드웨어에서 실행되는 AI 챗봇과 상호작용을 시작할 수 있도록 안내합니다.
AMD의 가이드에 따르면 사용자는 Ryzen AI PC 칩이나 RX 7000 시리즈 GPU 중 하나를 가지고 있어야 합니다. 오늘날, Ryzen AI는 Radeon 780M 또는 760M 통합 그래픽을 사용하는 Phoenix 및 Hawk Point 기반의 고급 Ryzen APU에만 사용할 수 있습니다. 이것은 Ryzen 5 8600G은 지원되지만 Ryzen 5 8500G은 작동하지 않을 것으로 보입니다. 그러나 응용 프로그램 자체는 “AVX2 지원 CPU”만 요구하므로 넓은 범위의 프로세서에서 작동해야 합니다(아마도 매우 느리게).
사용자는 LM Studio를 다운로드하고 설치해야 하며, RX 7000 시리즈 사용자를 위한 ROCm 버전도 있습니다. 사용자는 LM Studio를 설치하고 실행한 후, LLM과 같은 원하는 LLM을 검색하기만 하면 됩니다. AMD는 “Q4 K M” 라벨이 붙은 모델을 사용할 것을 권장하는데, 이는 특정 수준의 양자화(4비트)와 기타 특성을 나타냅니다. Ryzen CPU 사용자는 이 시점에서 챗봇과 대화를 나눌 수 있지만, RX 7000 시리즈 GPU 사용자는 오른쪽 패널을 열어 GPU 오프로딩을 수동으로 활성화하고 오프로딩 슬라이더를 완전히 “최대”로 드래그해야 합니다.
AMD의 튜토리얼은 모든 AMD, 인텔 및 Nvidia 소비자 하드웨어에서 AI 챗봇을 실행할 수 있는 적어도 하나의 쉬운 공식적인 방법이 있다는 것을 의미합니다. 예상대로, Nvidia는 Nvidia GPU에서만 실행되는 Chat with RTX 앱으로 최초로 나왔습니다. Chat with RTX는 문서, 비디오 및 기타 파일을 분석할 수 있으며, Nvidia 챗봇의 지원은 30 시리즈로 거슬러 올라가며 20 시리즈 지원도 고려될 수 있습니다.
한편, 인텔의 AI CPU/NPU 및 GPU 솔루션은 더 복잡합니다. 로컬 AI 챗봇을 보여주기 위해 앱을 사용하는 대신, 인텔은 사용자가 파이썬을 사용하여 코드를 작성하는 방법을 보여주었습니다. 사용자가 작성해야 하는 코드는 그리 길지 않지만, 어떤 코딩이든 포함되어 있다는 것은 많은 잠재적 사용자들에게 장벽이 될 것입니다. 게다가 챗봇의 응답은 명령줄에 표시되므로 “최첨단 AI”를 그리 고급으로 생각되지 않을 것입니다. LM Studio를 대신 시도할 수 있지만, 인텔 GPU나 NPU 지원이 아직 없는 것으로 보이므로 CPU만 사용될 것입니다.
AMD가 Nvidia처럼 자체 AI 챗봇 앱을 보유하고 있지는 않지만, Intel보다는 특징 면에서 더 나아져 보입니다. 최소한 ROCm GPU 하드웨어 지원이 있습니다. AMD의 다음 단계는 아마도 자체적인 Chat with RTX 버전을 만들거나 적어도 LM Studio 개발자들과 협력하여 AMD 하드웨어에 대한 기능을 활성화하는 것일 것입니다. 아마도 Radeon Adrenalin 드라이버 스위트에 AI 기능이 통합될 수도 있습니다. AMD는 드라이버 수준에서 AI 최적화를 제공하며, 드라이버 스위트는 종종 Fluid Motion Frames와 같은 새로운 기능을 받습니다. ※ 퀘이사존 공식 기사가 아닌 해외 뉴스/기사를 번역한 것으로, 퀘이사존 견해와 주관은 포함되어 있지 않습니다. |
