Výpočetní sada LLM630

OBRYS

Výpočetní sada LLM630 je platforma pro vývoj inferenčních modelů s využitím umělé inteligence (AI) určená pro edge computing a inteligentní interaktivní aplikace. Základní deska sady je vybavena procesorem Aixin AX630C SoC s integrovaným vysoce efektivním NPU s výpočetním výkonem 3.2 TOPs@INT8, který poskytuje výkonné inferenční funkce AI pro efektivní provádění úloh komplexního vidění (CV) a modelů s využitím velkých jazyků (LLM) a splňuje potřeby různých scénářů inteligentních aplikací. Základní deska je také vybavena gigabitovým ethernetovým čipem JL2101-N040C a bezdrátovým komunikačním čipem ESP32-C6 s podporou Wi-Fi 6@2.4G, který se používá jako síťová karta zařízení a poskytuje vysokorychlostní přenos dat a dosahuje funkce přemostění Wi-Fi a Ethernetu. Ať už se jedná o kabelové připojení pro rozsáhlou výměnu dat nebo bezdrátovou komunikaci pro interakci v reálném čase se vzdálenými servery nebo jinými chytrými zařízeními, tato platforma zajišťuje efektivní datovou interakci. Základní deska také integruje anténní rozhraní SMA pro další zvýšení stability bezdrátového signálu a dosahu přenosu, což zajišťuje stabilní komunikaci ve složitých síťových prostředích. Je vybaven vestavěnou pamětí LPDDR4 o kapacitě 4 GB (2 GB pro uživatelské použití, 2 GB vyhrazeno pro hardwarovou akceleraci) a 32GB úložištěm eMMC, které podporuje paralelní načítání a inferenci více modelů, a zajišťuje tak efektivní a plynulé zpracování úloh.
Základní deska, dokonale doplňující základní desku, výrazně rozšiřuje funkčnost a použitelnost výpočetní sady LLM630. Integruje šestiosý senzor BMI270, který poskytuje přesné snímání polohy a detekci pohybu, vhodné pro různé dynamické aplikace. Vestavěný čip NS4150B třídy D ampRozhraní pro živý přenos, mikrofon a reproduktor podporují vysoce kvalitní hlasový vstup a zvukový výstup, čímž dosahují plně duplexního komunikačního režimu a vylepšují interakci s uživatelem. Základní deska je také vybavena duálními rozhraními Grove a rozhraními LCD/DSI a CAM/CSI MIPI, což usnadňuje rozšíření periferií, jako jsou displeje a kamerové moduly. Základní deska dále integruje rozhraní pro externí anténu a gigabitový ethernetový port, což poskytuje flexibilní síťová připojení a vylepšený bezdrátový výkon zařízení. Uživatelská tlačítka zařízení dále umožňují funkce, jako je zapnutí/vypnutí a přepínání režimů, což zlepšuje použitelnost a interaktivitu zařízení. Nabíjecí čip a rezervní zásuvka pro baterii základní desky podporují vlastní konfigurace baterií, což zajišťuje, že platforma může stabilně fungovat po dlouhou dobu i bez externího napájení. Integrovaný čip pro detekci baterie monitoruje stav baterie v reálném čase. Slot pro kartu MicroSD podporuje rozšíření úložiště a budoucí podporu pro funkce aktualizace modelu s umělou inteligencí. Duální rozhraní USB Type-C nejen podporují efektivní přenos dat, ale také poskytují funkci OTG, díky čemuž je připojení zařízení flexibilnější a zajišťuje vysokou efektivitu výměny dat a připojení zařízení.
Výpočetní sada LLM630 podporuje framework StackFlow, který vývojářům umožňuje snadno implementovat inteligentní aplikace na okraji sítě pomocí několika řádků kódu a rychle spouštět různé úlohy umělé inteligence. Platforma podporuje řadu aplikací umělé inteligence, včetně vizuálního rozpoznávání, rozpoznávání řeči, převodu textu na řeč a rozpoznávání slov po probuzení, a podporuje samostatné vyvolání nebo automatický tok v rámci kanálu, což usnadňuje vývoj. Platforma také podporuje modely vidění, jako je Yolo11 DepthAnything, multimodální velké modely, jako je InternVL2.5-1B, velké jazykové modely, jako je Qwen2.5-0.5/1.5B Llama3.2-1B, a modely řeči, jako je Whisper Melotts, s podporou aktualizací a bude i nadále podporovat nejpokročilejší populární velké modely v budoucnu, čímž posiluje inteligentní rozpoznávání a analýzu a zajišťuje, že platforma drží krok s technologickým vývojem a trendy v komunitě. Výpočetní sada LLM630 je vhodná pro oblasti, jako je monitorování bezpečnosti, inteligentní prodej, inteligentní zemědělství, inteligentní ovládání domácností, interaktivní roboti a vzdělávání, a poskytuje výkonné výpočetní možnosti a flexibilní rozšiřitelnost pro inteligentní aplikace na okraji sítě.

1.1. Výpočetní sada LLM630
1. Komunikační schopnosti

• Kabelová síť: Vybaven gigabitovým ethernetovým čipem JL2101-N040C pro vysokorychlostní výměnu dat.
• Bezdrátová síť: Integrovaný čip ESP32-C6 s podporou Wi-Fi 6 (2.4 GHz) a BLE zajišťuje efektivní bezdrátovou datovou interakci.
• Funkce mostu: Umožňuje přemostění Ethernetu na Wi-Fi, což usnadňuje přenos dat v různých síťových prostředích.
• Rozhraní externí antény: SMA konektor pro externí antény, který zlepšuje stabilitu bezdrátového signálu a dosah přenosu.

2. Procesor a výkon

• Hlavní SoC: AX630C od AXERA s dvoujádrovým procesorem Cortex-A53 (1.2 GHz).
• NPU (neuronová procesorová jednotka): Poskytuje výpočetní výkon 3.2 TOPS@INT8 (1.2T@FP16) a efektivně zpracovává úlohy inference umělé inteligence (např. počítačové vidění a inference modelů velkých jazyků).
• Paralelismus více modelů: Robustní výpočetní kapacita podporuje současné načítání a spouštění více modelů, což je ideální pro komplexní scénáře edge inteligence.

3. Zobrazení a vstup

• Senzory: Integrovaný šestiosý senzor BMI270 (akcelerometr + gyroskop) pro detekci pohybu a snímání polohy.
• Zvuk:
  • Vestavěný NS4150B třídy D ampdoživotní
  • Vestavěné rozhraní pro mikrofon a reproduktor pro vysoce kvalitní audio vstupy/výstupy a plně duplexní hlasovou komunikaci
• Rozhraní:
  • LCD/DSI (MIPI) pro externí displeje
  • CAM/CSI (MIPI) pro kamerové moduly
• Uživatelská tlačítka: Umožňují ovládání napájení, přepínání režimů a vylepšují interaktivitu zařízení.

4. Paměť

• BERAN:
  • Celkem 4 GB LPDDR4 (2 GB pro uživatelský systém, 2 GB vyhrazeno pro hardwarové akcelerátory, jako je NPU)
• Skladování:
  • 32GB eMMC pro OS, modely umělé inteligence a data aplikací
  • Slot pro kartu MicroSD pro rozšíření úložiště a budoucí aktualizace modelů s umělou inteligencí

5. Řízení spotřeby

• Podpora baterie:
  • Integrovaný nabíjecí čip a konektor baterie pro přizpůsobitelné konfigurace baterie
  • Čip pro sledování napájení poskytuje zpětnou vazbu o stavu baterie v reálném čase
• Napájení:
  • Podporuje napájecí vstup USB typu C
  • Může pracovat na baterie po delší dobu bez externího napájení

6. Piny GPIO a programovatelná rozhraní

• Rozšiřující rozhraní:
  • Dva porty Grove pro snadné připojení senzorů a periferií
  • Rozhraní MIPI DSI/CSI pro displeje a kamery
  • Dva porty USB typu C pro vysokorychlostní přenos dat a funkci OTG, což zlepšuje konektivitu
• Vývoj a programování:
  • Kompatibilní s frameworkem StackFlow od M5Stack, což umožňuje rychlý vývoj aplikací umělé inteligence na okraji systému s minimálním kódováním
  • Podporuje různé algoritmy a modely umělé inteligence pro zrak, řeč, text a další

7. Ostatní

• Podpora modelů umělé inteligence:
  • Předinstalované nebo načítatelné modely, jako například Yolo11, DepthAnything pro vidění, InternVL2.5-1B pro multimodální a velké
  • jazykové modely (Qwen2.5-0.5/1.5B, Llama3.2-1B atd.) plus Whisper Melotts pro řeč
  • Možnost aktualizací za chodu, aby platforma zůstala aktuální s nejnovějším vývojem v oblasti umělé inteligence
• Aplikační scénáře:
  • Vhodné pro bezpečnostní dohled, chytrý maloobchod, chytré zemědělství, ovládání chytré domácnosti, interaktivní robotiku, vzdělávání a další
  • Nabízí výkonné výpočty a flexibilní rozšíření pro širokou škálu případů použití AIoT
• Rozměry a hmotnost zařízení: Kompaktní provedení pro snadnou integraci do různých aplikací a rychlé prototypování.

SPECIFIKACE

2.1. Specifikace

Parametr a specifikace	Hodnota
Procesor	AX6300Duální Cortex A53 1.2 GHz MAX. 12 TOPů při INT8 a 4 TOPů při INT3.2
NPU	3.2TOPy @ INT8
BERAN	4 GB LPDDR4 (2 GB systémové paměti + 2 GB vyhrazené paměti pro hardwarovou akceleraci)
eMMC	eMMC5 s kapacitou 1 GB
Kabelová síť	IL2101B-N040C @ 1GbE
Bezdrátová síť	ESP32-C6 s Wi-Fi6 2.4G
USB-UART	CH9102F @ USB do sériového portu
USB-OTG	Hostitel nebo zařízení USB 2.0
Anténní rozhraní	Vnitřní otvor SMA
Audio rozhraní	5P konektor MIC a SPK @ 1.25 mm
Rozhraní displeje	MIPI DSI lx 2Lane MAX 1080p 0 30fps 0 1.25 mm
Rozhraní fotoaparátu	MIPI CSI lx 4Lane MAX 4K 0 30fps 0 1.25 mm
Další funkce	Programovatelná RGB LED pro řízení s nízkou spotřebou energie. Bzučák. Tlačítko resetování.
Správa baterie	1.25mm konektor pro baterii
Terminál rozhraní baterie	4 vysokorychlostní bezjádrové motory
Specifikace kompatibilní baterie	3.7V lithiová baterie (lithium-iontová nebo lithium-polymerová)
Rozhraní USB	2 rozhraní Tvpe-C (přenos dat, funkce OTG)
USB napájení	5V 0 2A
Rozhraní Grove	Zásuvka PortA 4P 0 2.0 mm (I2C) Zásuvka PortC 4P 0 2.0 mm (UART)
Rozhraní pro rozšíření úložiště	Slot pro Micro SD kartu
Externí funkční rozhraní	FUNC Header 8P @ 1.25mm probuzení systému, správa napájení, ovládání externích LED a komunikace I2C atd.
Tlačítka	2 tlačítka pro zapnutí/vypnutí, interakci s uživatelem a reset
Senzor	BMI270 0 6osý
Výrobce	Společnost M5Stack Technology Co., Ltd

2.2. Velikost modulu

RYCHLÝ START

3.1. UART

1. Připojte UART rozhraní výpočetní sady LLM630 k počítači. Pro ladění a ovládání můžete k přihlášení k terminálu zařízení přes sériový port použít ladicí nástroje, jako je Putty. (Výchozí: 115200bps 8N1, výchozí uživatelské jméno je root, heslo je root.)

3.2. Ethernet

1. Výpočetní sada LLM630 poskytuje ethernetové rozhraní pro snadný přístup k síti a funkční ladění.

3.3. WiFi

1. Výpočetní sada LLM630 obsahuje integrovaný čip ESP32-C6 jako Wi-Fi, což usnadňuje připojení k bezdrátovým sítím.
   Chcete-li povolit Wi-Fi a nakonfigurovat připojení, postupujte podle následujících kroků. Před použitím nainstalujte dodanou externí anténu SMA.

core-config

Výchozím nástrojem pro konfiguraci sítě v sadě LLM630 Compute Kit je ntmui. Nástroj nmtui můžete použít ke snadné konfiguraci připojení Wi-Fi.

nmtui

Varování FCC

Upozornění FCC:
Jakékoli změny nebo úpravy, které nejsou výslovně schváleny stranou odpovědnou za shodu, mohou zrušit oprávnění uživatele provozovat zařízení.
Toto zařízení je v souladu s částí 15 pravidel FCC. Provoz podléhá následujícím dvěma podmínkám: (1) Toto zařízení nesmí způsobovat škodlivé rušení a (2) toto zařízení musí akceptovat jakékoli přijaté rušení, včetně rušení, které může způsobit nežádoucí provoz.

DŮLEŽITÁ POZNÁMKA:
Poznámka: Toto zařízení bylo testováno a bylo zjištěno, že vyhovuje limitům pro digitální zařízení třídy B podle části 15 pravidel FCC. Tyto limity jsou navrženy tak, aby poskytovaly přiměřenou ochranu před škodlivým rušením při domácí instalaci.
Toto zařízení generuje, používá a může vyzařovat vysokofrekvenční energii a pokud není nainstalováno a používáno v souladu s pokyny, může způsobovat škodlivé rušení rádiové komunikace. Nelze však zaručit, že při konkrétní instalaci k rušení nedojde. Pokud toto zařízení způsobuje škodlivé rušení rádiového nebo televizního příjmu, což lze zjistit vypnutím a zapnutím zařízení, doporučujeme uživateli, aby se pokusil napravit rušení jedním nebo více z následujících opatření:

• Přeorientujte nebo přemístěte přijímací anténu.
• Zvětšete vzdálenost mezi zařízením a přijímačem.
• Připojte zařízení do zásuvky v jiném okruhu, než ke kterému je připojen přijímač.
• Požádejte o pomoc prodejce nebo zkušeného rádiového/TV technika.

Prohlášení o vystavení radiaci FCC: Toto zařízení splňuje limity expozice radiaci FCC stanovené pro nekontrolované prostředí.

Dokumenty / zdroje

Výpočetní sada M5STACK LLM630 [pdfUživatelská příručka M5LLM630COMKIT, 2AN3WM5LLM630COMKIT, Výpočetní sada LLM630, LLM630, Výpočetní sada, Sada

Reference

• Uživatelská příručka