nvidia tensorrt-llm
NVIDIA TensorRT-LLM - układy graficzne GeForce RTX z serii 30 i 40 będą teraz wydajniejsze w obsłudze modeli sztucznej inteligencji
Usług związanych ze sztuczną inteligencją jest obecnie wiele, natomiast jednymi z popularniejszych są chatboty, które funkcjonują w oparciu o duże modele językowe (LLM). Natomiast skorzystanie z nich wiąże się z przesyłaniem danych wejściowych na serwer zewnętrzny, co nie sprzyja prywatności. Inną możliwością jest uruchomienie modeli językowych lokalnie, jednak do sprawnego działania wymaga to odpowiedniej mocy obliczeniowej. NVIDIA chce pomóc użytkownikom w tym zadaniu, więc niebawem udostępni...
Linux vs Windows - Który system jest lepszy do gier? Test wydajności AMD Radeon RX 7900 XTX oraz Radeon RX 7600 XT
Test laptopa Apple MacBook Air z procesorem M3. Całkiem wydajny i elegancki, ale czy warty swojej ceny?
Kolejny krok Google w walce z blokowaniem reklam na YouTube. Tylko oficjalna aplikacja będzie umożliwiała oglądanie wideo
AMD Radeon RX 8000 - nadchodząca seria kart graficznych ma bazować na niezbyt szybkich pamięciach GDDR6
Intel prosi producentów płyt głównych o zmianę domyślnych ustawień BIOS-u. Sprawa ma związek z niestabilnością procesorów