Inicio > > Informática: cuestiones generales > Klaster obliczeń równoległych służący do rozwiązywania problemów obliczeniowych związanych z danymi
Klaster obliczeń równoległych służący do rozwiązywania problemów obliczeniowych związanych z danymi

Klaster obliczeń równoległych służący do rozwiązywania problemów obliczeniowych związanych z danymi

Chavala Mutyala Rao

71,96 €
IVA incluido
Disponible
Editorial:
KS OmniScriptum Publishing
Año de edición:
2026
Materia
Informática: cuestiones generales
ISBN:
9786630384963
71,96 €
IVA incluido
Disponible

Selecciona una librería:

  • Librería Samer Atenea
  • Kálamo Books
  • Librería Elías (Asturias)
  • Librería Kolima (Madrid)
  • Librería Proteo (Málaga)
Sobre IBD

Książka ta porusza kwestię kluczowego wąskiego gardła w sztucznej inteligencji na dużą skalę: powolnego i wymagającego intensywnej komunikacji uczenia ogromnych głębokich sieci neuronowych (DNN) na systemach z wieloma procesorami graficznymi. Omówiono w niej kompromis między dwiema głównymi metodami równoległego przetwarzania. Równoległość danych wiąże się z dużym obciążeniem komunikacyjnym w przypadku dużych modeli, podczas gdy równoległość modeli w trybie potokowym (taka jak PipeDream) zapewnia nawet 8,91-krotne przyspieszenie w przypadku dużych w pełni połączonych/rekurencyjnych sieci neuronowych, ale powoduje „nieaktualność wag', co obniża dokładność modelu. Aby rozwiązać ten problem, w artykule przedstawiono SpecTrain - nowatorską technikę. SpecTrain wykorzystuje pęd generowany przez optymalizatory do przewidywania przyszłych aktualizacji wag, umożliwiając obliczenia potokowe z wykorzystaniem dokładnych, aktualnych wag. Pozwala to na wysokie wykorzystanie mocy obliczeniowej procesorów graficznych i szybkość obliczeń potokowych przy jednoczesnym zachowaniu odporności procesu uczenia i końcowej dokładności charakterystycznej dla metod synchronicznych.

Artículos relacionados

  • Interview with Jeffery Khoury, Bringing Telemedicine to the People
    Richard G Lowe Jr
    Did you know you can consult with a medical specialist over your smartphone from the comfort of your own home? Imagine speaking to a highly-trained and accredited doctor about whatever is ailing you from virtually anywhere in the world.Thanks to a young entrepreneur named Jeffery Khoury, you can get the advice you need from a pool of medical specialists without waiting in a doc...
  • IT Consulting Secrets
    Carl A Katz
    This book is for IT consultants of all experience levels and the content is relevant to any IT support business model from managed services (MSP) to break/fix. The author has methodically compiled these strategies and this information from over sixteen years of experience working in the IT support field at the small and medium sized business and enterprise levels. ...
    Disponible

    29,41 €

  • Modeling, Analysis, and Applications in Metaheuristic Computing
    Peng-Yeng Yin
    The engineering and business problems the world faces today have become more impenetrable and unstructured, making the design of a satisfactory problem-specific algorithm nontrivial. Modeling, Analysis, and Applications in Metaheuristic Computing: Advancements and Trends is a collection of the latest developments, models, and applications within the transdisciplinary fields rel...
  • Knowledge Management and Drivers of Innovation in Services Industries
    Knowledge Management is concerned with all aspects of eliciting, acquiring, modelling, and managing knowledge. Application of knowledge resources successfully helps the organization to deliver creative products and services. Especially in service business, service job experience and information about the customer, as well as the installed site equipment, are key factors to deli...
  • Current Trends and Future Practices for Digital Literacy and Competence
    Antonio Cartelli
    Being a digital citizen has transformed from a process of familiarizing ones’ self with terminology and techniques to a full-time responsibility in the hands of any who want to stay abreast of the latest technological change in their respective field. Current Trends and Future Practices for Digital Literacy and Competence offers a look at the latest research within digital lite...
  • Human Rights and Risks in the Digital Era
    Globalization, along with its digital and information communication technology counterparts, including the Internet and cyberspace, may signify a whole new era for human rights, characterized by new tensions, challenges, and risks for human rights, as well as new opportunities. Human Rights and Risks in the Digital Era: Globalization and the Effects of Information Technologies ...

Otros libros del autor

  • Parallelrechner-Cluster zur Lösung von Rechenaufgaben im Bereich Daten
    Chavala Mutyala Rao
    Dieses Buch befasst sich mit einem entscheidenden Engpass bei der groß angelegten KI: dem langsamen und kommunikationsintensiven Training riesiger tiefer neuronaler Netze (DNNs) auf Multi-GPU-Systemen. Es behandelt den Kompromiss zwischen zwei wichtigen Parallelisierungsmethoden. Die Datenparallelität leidet bei großen Modellen unter einem erheblichen Kommunikationsaufwand, wäh...
    Disponible

    71,96 €

  • Cluster di calcolo parallelo per la risoluzione di problemi computazionali relativi ai dati
    Chavala Mutyala Rao
    Questo libro affronta un collo di bottiglia critico nell’IA su larga scala: l’addestramento lento e ad alto carico di comunicazione delle reti neurali profonde (DNN) su sistemi multi-GPU. Esamina il compromesso tra due principali metodi di parallelizzazione. Il parallelismo dei dati presenta un notevole sovraccarico di comunicazione per i modelli di grandi dimensioni, mentre il...
    Disponible

    71,96 €

  • Parallel Computing Cluster for Solving Computational Problems in Data
    Chavala Mutyala Rao
    Thisbook tackles a critical bottleneck in large-scale AI: the slow and communication-heavy training of massive Deep Neural Networks (DNNs) on multi-GPU systems. It addresses the trade-off between two main parallelization methods. Data parallelism suffers from severe communication overhead for large models, while pipelined model parallelism (like PipeDream) offers up to 8.91x sp...
    Disponible

    65,43 €