В Израиле начались активные боевые действия: основное на 07.10
Google продолжает удивлять мир новыми разработками в области искусственного интеллекта, представляя архитектуру Titans. Эта система становится следующим шагом в развитии ИИ, приближая его к когнитивным способностям человека.
Трансформеры, представленные компанией более семи лет назад, положили начало эпохе генеративного ИИ. Однако архитектура Transformer имеет свои ограничения. Основная проблема — отсутствие долговременной памяти, что делает её менее эффективной для задач, требующих сохранения и анализа информации на протяжении длительного времени.
Похожие записи
Titans решает эту проблему, добавляя модули кратковременной и долговременной памяти. Это позволяет системе сохранять важные данные и возвращаться к ним, как студент возвращается к своим записям. Более того, «метрика сюрпризов» помогает ИИ выделять ключевые моменты, нарушающие ожидаемый ход событий, и записывать их в долговременную память.
Новая архитектура способна анализировать огромные объёмы информации, сохраняя высокую точность. Например, в медицине Titans может использоваться для обнаружения аномалий в данных пациента, сравнивая их с нормой. В науке и финансах система сможет выявлять ключевые отклонения и прогнозировать развитие ситуаций.
Тесты показали, что Titans сохраняет эффективность даже при обработке данных с контекстом выше 2 млн токенов, чего не могут добиться современные модели.
Однако технология находится на ранней стадии, и её широкое применение может столкнуться с трудностями. Это касается как системных требований, так и вопросов конфиденциальности данных. Тем не менее, Titans уже демонстрирует перспективы, делая ИИ более «человечным» в его способностях к познанию и анализу.