Meta планирует создать крупную инфраструктуру ИИ состоящую из более чем 600 тысяч графических процессоров
Марк Цукерберг рассказал о планах компании Meta по созданию инфраструктуры искусственного интеллекта в своем посте в Instagram. Он подчеркнул, что компания работает над моделью Llama 3 следующего поколения и создает вычислительную инфраструктуру, включая большое количество графических процессоров NVIDIA H100. К концу года планируется добавить 350 тыс. H100s к уже существующим, что приведет общее количество графических процессоров, включая другие модели, к 600 тыс. эквивалентных H100s.
Расширение инфраструктуры искусственного интеллекта означает добавление 350 000 графических процессоров H100 к уже существующим, что общее количество достигнет 600 000 графических процессоров, эквивалентных H100. Однако такая инфраструктура требует значительных инвестиций. Расходы Meta на приобретение этих графических процессоров составят около 10,5 миллиардов долларов, если средняя стоимость графического процессора H100 составляет 30 000 долларов США.
В инфраструктуру также будут включены другие графические процессоры, особенно из семейства NVIDIA Hopper. Кроме того, Meta в настоящее время обучает модель искусственного интеллекта Llama 3, которая будет более продвинутой и мощной, чем текущая модель Llama 2. Она будет обладать улучшенными возможностями рассуждения, кодирования и решения математических задач. Такие модели будут доступны с открытым исходным кодом, и Meta планирует предоставить всеобщий доступ к ним, чтобы каждый мог воспользоваться преимуществами искусственного интеллекта.
В долгосрочной перспективе Meta стремится создать общий интеллект и обеспечить его использование с открытым исходным кодом и широким доступом. Марк Цукерберг подчеркнул, что их долгосрочное видение заключается в том, чтобы каждый человек мог извлечь выгоду от общедоступного искусственного интеллекта. Планируется, что эти модели будут доступны в репозиториях GitHub в будущем.