Phison aiDAPTIV+ je hybridní softwarové a hardwarové řešení, které odstraňuje bariéry v trénování velkých jazykových modelů (LLM). Díky technologii offloadingu modelových vah z GPU paměti do vysokorychlostních SSD aiDAPTIVCache umožňuje aiDAPTIV+ trénovat modely jako Llama-3 70B nebo Falcon 180B na jediné lokální pracovní stanici, namísto drahých serverových farem.
100 DWPD
Extrémní odolnost
Až 180B
Podpora parametrů modelů
PyTorch
Nativní integrace
On-Premise
Soukromí vašich dat
Škálování bez hranic
Umožňuje malým a středním podnikům trénovat modely, které dříve vyžadovaly datacentra. Rozšiřte svou kapacitu nad rámec běžných 13B modelů až k masivním 180B parametrům.
aiDAPTIVLink Middleware
Průhledné "drop-in" řešení pro framework PyTorch, které nevyžaduje žádné úpravy vaší AI aplikace. Middleware automaticky spravuje paměťové toky mezi GPU a cache.
Bezpečnost dat
Udržujte své citlivé trénovací sady pod plnou kontrolou. Celý proces trénování probíhá lokálně na vaší infrastruktuře, bez nutnosti nahrávání dat do cloudu.
| Hardwarový prvek |
aiDAPTIVCache AI100E M.2 SSD |
| Odolnost |
Průmyslový standard 100 DWPD po dobu 3 let |
| Technologie NAND |
SLC NAND s pokročilými korekčními algoritmy |
| Podporované modely |
Llama (2, 3), CodeLlama, Falcon, Vicuna, Mistral, Whisper, CLIP Large, TAIDE a další |
| Konfigurace systému |
Optimalizováno pro 4x GPU stanice (např. RTX 6000 Ada) |
| Softwarová integrace |
Middleware knihovny aiDAPTIVLink pro seamless memory expansion |
Metaformer
ResNet
DeiT Base
Falcon 180B
Llama-3 70B
