Квантовое машинное обучение: знакомимся с Tensorflow Quantum

МЕНЮ

Искусственный интеллект
Поиск
Регистрация на сайте
Помощь проекту

ТЕМЫ

Новости ИИРазработка ИИВнедрение ИИРабота разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика

Авторизация

RSS

RSS новости

На Хабре практически нет информации про квантовое машинное обучение (Quantum Machine Learning), и в этой статье я постараюсь подробнее раскрыть тему. Сразу скажу, что промышленных квантовых компьютеров сегодня не существует, все основные разработки в этой области носят теоретический характер, а задачу, которую мы будем разбирать в статье можно решить «по классике» за доли секунд. Но ведь еще 30 лет назад была так называемая «зима искусственного интеллекта», а сегодня нейронные сети буквально окружают нас. Кто знает, может быть вскоре и квантовые компьютеры станут неотъемлемой частью нашей жизни? К тому же область квантовых вычислений, а тем более область QML, обладает особой притягательностью и таинственностью и, как минимум, стоит быть замеченной.

Head image

В статье я постарался рассказать о QML в целом, а также об основном строительном блоке QML — Variational Quantum Circuit. Большую часть статьи я постарался сделать практической, c примерами кода на Cirq, а в конце — добавил реализацию одного из базовых алгоритмов QML на Tensorflow Quantum.

Введение

Гипотетически QML имеет ряд существенных преимуществ, по сравнению с классическим машинным обучением. Variational Quantum Circuit, или VQC, которые можно назвать «аналогом» классических полносвязных слоев в обычных нейронных сетях, являются более «выразительными» и при этом содержат меньше обучаемых параметров. Ряд квантовых алгоритмов потенциально также дает существенное ускорение по сравнению с обычными аналогами:

Метод Ускорение
Bayesian Inference $O(sqrt{N})$
Online Perceptron $O(sqrt{N})$
Least Square Fitting $O(log(N))$
Classical Boltzman Machine $O(sqrt{N})$
Quantum Boltzman Machine $O(log(N))$
Quantum PCA $O(log(N))$
Quantum SVM $O(log(N))$
Quantum RL $O(sqrt{N})$

Для наиболее полного ознакомления с темой я рекомендую обзор 2017-го года в журнале Nature или препринт той же работы в arXiv. Именно из этой работы я взял данную таблицу. В ней указано ускорение по сравнению с классическим аналогом. Так, $O(sqrt{N})$ подразумевает, что квантовый алгоритм квадратично быстрее, чем его классический аналог, а $O(log(N))$ означает экспоненциальное ускорение.

Маленькая ремарка про Дираковскую нотацию

Я постарался писать эту статью с минимальным числом формул, но все же совсем без них нельзя. Также в квантовых вычислениях используется своя нотация линейной алгебры. Сложно сказать, хорошо это или плохо, но я буду использовать именно Дираковскую нотацию, так как во всех других источниках и научных работах будет именно она, — лучше привыкать к ней с самого начала. Сразу скажу, что ничего страшного в статье не будет, и все формулы я буду пытаться максимально пояснять словами.

  • Вектор столбец $vec{Psi} := left | Psi ight >$
  • Вектор строка $vec{Psi}^T := left < Psi ight |$
  • Скалярное произведение это $vec{Psi}^Tcdotvec{Phi} := left < Psi Phi ight >$
  • Умножение матрицы на вектор или действие оператора на состояние $ mathbf{H}cdot vec{Psi} := hat{mathbf{H}}left | Psi ight >$
  • Ожидаемое значение оператора в состоянии $vec{Psi}^Tcdotmathbf{H}cdotvec{Psi} := left < Psi ight | hat{mathbf{H}} left | Psi ight > $

Основа QML

Как я уже говорил, основной «строительный блок» в QML — это Variational Quantum Circuit. Их мы детально рассмотрим чуть позже, но в целом любая статья или любой новый алгоритм по QML будет так или иначе содержать набор VQC или их вариаций. Такие блоки не являются чисто квантовыми схемами, и в этом они сильно отличаются, например, от широко известных квантовых алгоритмов Шора или Гровера. В основном QML строится по «гибридной» схеме, когда у нас есть параметризованные квантовые схемы, такие как VQC, и они составляют собой «квантовую» часть. «Классическая» часть обычно отвечает за оптимизацию параметров квантовых схем, например, градиентными методами, так, чтобы VQC, подобно слоям нейронных сетей, «выучивали» нужные нам преобразования входных данных. Именно так построена библиотека Tensorflow Quantum, где квантовые «слои» сочетаются с классическими, а обучение происходит как в обычных нейронных сетях.

Variational Quantum Circuit

VQC — это простейший элемент систем квантово-классического обучения. В минимальном варианте представляет собой квантовую схему, которая кодирует входным вектором данных $vec{X}$ квантовое состояние $left | {Psi} ight >$ и далее применяет к этому состоянию параметризованные параметрами $ heta$ операторы. Если проводить аналогию с обычными нейронными сетями, то можно представить себе VQC как некий «черный ящик», или «слой», который выполняет преобразование входных данных $vec{X}$ в зависимости от параметров $ heta$. И тогда, можно сказать, что $ heta$ — это аналог «весов» в классических нейронных сетях.

Вот так выглядит простейшая VQS, где вектор $vec{X}$ кодируется через вращения кубитов вокруг оси $mathbf{X}$, а параметры $ heta$ кодируют вращения вокруг оси $mathbf{Y}$:

Simple VQC scheme

Разберем этот момент подробнее. Мы хотим закодировать входной вектор данных $vec{X}$ в состояние $left | Psi ight >$, по сути своей, выполнить операцию перевода «классических» входных данных в квантовые. Для этого мы берем $N$ кубитов, каждый из которых исходно находится в состоянии $left | 0 ight >$. Состояние каждого отдельного кубита мы можем представить как точку на поверхности сферы Блоха:

Сфера Блоха

Мы можем «вращать» состояние $left | Psi ight >$ нашего кубита, применяя специальные однокубитные операции, так называемые гейты $Rx$, $Ry$, $Rz$, соответствующие поворотам относительно разных осей сферы Блоха. Мы будем поворачивать каждый кубит, например, по оси $mathbf{X}$ на угол, определяемый соответствующей компонентой входного вектора $vec{X}$.

Получив квантовый входной вектор, мы хотим теперь применить к нему параметризованное преобразование. Для этого мы будем «вращать» соответствующие кубиты уже по другой оси, например, по $mathbf{Y}$ на углы, определяемые параметрами схемы $ heta$.

Это наиболее простой пример VQC, и, как мы увидим дальше, есть более сложные модификации, но суть у всех приблизительно одна.

В библиотеке для квантовых вычислений Cirq от компании Google, которой мы будем активно пользоваться, это можно реализовать, например, так:

Код на Cirq для простейшей VQC 
import cirq import sympy  qubits = cirq.LineQubit.range(10) x = sympy.symbols("x0:10") thetas = sympy.symbols("t0:10") circuit = cirq.Circuit()  for i in range(10):     circuit.append(cirq.rx(x[i])(qubits[i]))     circuit.append(cirq.ry(thetas[i])(qubits[i]))

  • cirq.LineQubit — это кубит на одномерной цепочке, а метод range создает нам сразу нужное число кубитов;
  • В Cirq все кубиты изначально находятся в состоянии $left | 0 ight >$, так что нам не нужно специально их инициализировать;
  • cirq.Circuit — это как раз наша схема, объединенный набор квантовых гейтов (или по другому вентилей) — квантовых операций над кубитами;
  • cirq.rx, cirq.ry — это наши «вращения фазы» на нужный угол в радианах.

Тут мы также воспользовались библиотекой символьной алгебры SymPy, просто Cirq позволяет параметризовывать схемы лишь через нее.

Таким образом, мы получаем квантовую ячейку — circuit, которая параметризируется классическими параметрами и применяет преобразование к классическому входному вектору. Именно на таких «блоках» и строятся алгоритмы квантово-классического обучения. Мы будем применять преобразования к классическим данным на квантовом компьютере (или симуляторе), измерять выход нашей VQC и далее использовать классические градиентные методы для обновления параметров VQC.

Variational Quantum Eigensolver

Основой многих алгоритмов квантового машинного обучения является Harrow-Hasssidim-Loloyd алгоритм (есть препринт в arXiv) для поиска решения систем линейных уравнений. Именно на основе этого алгоритма построен, например, квантовый SVM — наиболее известный и многообещающий алгоритм QML. Однако HHL достаточно сложный и начинать рассказ с него было бы странно. Вместо этого, далее, мы посмотрим как устроен другой алгоритм — Variational Quantum Eigensolver, алгоритм поиска минимальных собственных значений эрмитовых матриц, который лежит в основе HHL.

Почему именно проблема собственных значений? Ответ прост:

  • поиск минимальных собственных значений эрмитовых операторов — важная задача физики, именно для нее Р. Фейнман впервые предложил модель квантового компьютера;
  • Variational Quantum Eigensolver является ключевой частью HHL-алгоритма, итерация HHL сводится к задаче о собственных значениях;
  • Сам алгоритм достаточно прост как для понимания, так и для реализации.

Опишем задачу формально.

Дана эрмитова матрица $hat{mathbf{H}}$, или, другими словами, самосопряженный эрмитив оператор. Требуется найти $lambda_0$, которое является минимальным собственным значением оператора $hat{mathbf{H}}$.

Для решения этой задачи мы воспользуемся так называемой «Вариационной теоремой» (Variational theorem), которая для оператора $hat{mathbf{H}}$ дает нам следующее:

$left < hat{mathbf{H}} ight >_{left | Psi ight >} = left < Psi ight | hat{mathbf{H}} left | Psi ight > geq mathbf{E}_0$

где $mathbf{E}_0$ это минимальное собственное значение оператора. По сути тут сказано, что ожидаемый результат измерения оператора $hat{mathbf{H}}$ в состоянии $left | Psi ight >$ всегда больше или равен минимальному собственному значению этого оператора. На этом и строится наш процесс:

  1. Готовим состояние $left | Psi( heta_k) ight >$, параметризованное вектором параметров $ heta_k$
  2. Измеряем ожидаемое значение $lambda_k$ оператора $hat{mathbf{H}}$ в этом состоянии $left | Psi( heta_k) ight >$
  3. Оцениваем градиент $g_k = frac{partiallambda}{partial heta}$, ожидаемого значения по весам $ heta$
  4. Обновляем вектор $ heta$: $ heta_{k + 1} = heta_k - gamma cdot g_k$

Таким образом, наш параметризованный вектор $left | Psi( heta_k) ight >$ каждый раз будет все ближе к первому собственному вектору оператора, а $lambda_k$ будет (с погрешностью на оценку ожидания) приближаться к минимальному собственному значению $mathbf{E_0}$.

Надеюсь, больше понимания станет, когда мы посмотрим, как это выглядит в коде.

Реализация на Tensorflow Quantum

Для начала краткие обозначения импортов:

Код импортов 

import tensorflow as tf import tensorflow-quantum as tfq

Tensorflow Quantum — специальная библиотека, которая позволяет использовать схемы Cirq как тензоры Tensorflow, а также содержит специализированные варианты tf.keras.Layers для квантово-классического обучения. Библиотека совместима со стилем и другими слоями tf и позволяет задействовать систему автоматического диффиренцирования Tensorflow. Одним из таких tfq.layers мы и воспользуемся — это tfq.layers.SampledExpectation.

Этот слой, в том числе, позволяет оценивать ожидаемое значение оператора в каком-то состоянии, а потом еще и градиент по параметрам схемы, параметризировавшей это состояние. Сигнатура у него такая:

Сигнатура и описание слоя tfq.layers.SampledExpectation 
layer = tfq.layers.SampledExpectation() res = layer(     circuit,     symbol_names,     symbol_values,     operators,     repetitions, )

  • cicuit — схема (cirq.Circuit), параметризирующая состояние $left | Psi ight >$
  • symbol_names — символы sympy, которые параметризируют состояние
  • symbol_values — значения символов-параметров (обычно tf.Variable)
  • operators — операторы (например, cirq.PauliSum)
  • repetitions — число измерений, по которым оценивается значение оператора

Этот слой явно реализует нам для оператора $hat{mathbf{Op}}$ оценку значения оператора в конкретном состоянии по определенному числу измерений:

$left < Psi( heta) ight | hat{mathbf{Op}} left | Psi( heta) ight >$

А параметры в формуле связаны с сигнатурой метода call следующим образом:

Формула Сигнатура tfq.layers.SampledExpectation.call
$ heta$ symbol_values — значения параметров
$Psi$ circuit — квантовая схема «готовит» нам состояние
$Psi( heta)$ symbol_names — связь параметры схемы с symbol_values
$hat{mathbf{Op}}$ operators — оператор, например cirq.PauliSum

Параметр repetition не имеет прямой связи с математическим формализмом, но именно он показывает нам насколько хорошо мы оцениваем значение оператора.

Но перед началом всего обучения необходимо решить, как именно мы будем параметризовать состояние. В вышеописанных терминах нам надо определить $left | Psi( heta) ight >$, который мы будем передавать в качестве параметра circuit в tfq.layers.SampledExpectation. В данном случае воспользуемся более сложной параметризацией, где на каждый спин у нас будет три параметра: $ heta_x, heta_y, heta_z$, а не один:

Код VQC для Eigensolver-а 

qubits = cirq.GridQubit.rect(dim, 1) params_x = sympy.symbols(f"x0:{dim}") params_y = sympy.symbols(f"y0:{dim}") params_z = sympy.symbols(f"z0:{dim}") cirquit = cirq.Circuit()  for i in range(dim):     cirquit.append(cirq.rx(params_x[i])(qubits[i]))     cirquit.append(cirq.ry(params_y[i])(qubits[i]))     cirquit.append(cirq.rz(params_z[i])(qubits[i]))

Выглядит наша схема так:

Наша реализация VQC

Для примера, найдем минимальное собственное значение оператора Transverse-field Ising, так называемой «квантовой модели Изинга». Этот оператор строится применением операторов Паули (в нашем варианте это будут $sigma^z$ и $sigma^x$) и имеет два «классических» параметра $J, h$. Параметры $J, h$ на самом деле имеют физический смысл, а сам оператор часто применяют для описания Гамильтонианов реальных физических систем, то есть это не просто абстрактная задача. Но сейчас аспекты физики нас интересуют в меньшей степени. На самом деле любой эрмитов оператор можно определить в терминах матриц Паули, так что выбрав Изинга мы не теряем общности рассуждений.

$TFI = -J cdot sum_{i=1}^{n - 1} sigma^z_i cdot sigma^z_{i + 1} + h cdot sum_{i=1}^n sigma^x_i$

Это оператор размерности $2^N imes 2^N$, где $N$ это число кубитов, на которое он действует. Так как квантовые симуляторы достаточно «прожорливы», а доступ к реальным кубитам в Google Cloud Platform стоит денег, то не будем брать большую размерность $N$. Сейчас нам интересно просто посмотреть, как оно работает, о каком-то превосходстве квантовых алгоритмов на реальных задачах речи не идет. Запишем реализацию этого оператора в коде Cirq.

TFI оператор (матрица) в коде Cirq 

def get_ising_operator(     qubits: List[cirq.GridQubit], j: float, h: float ) -> cirq.PauliSum:     op = h * cirq.X(qubits[-1])      for i, _ in enumerate(qubits[:-1]):         op -= j * cirq.Z(qubits[i]) * cirq.Z(qubits[i + 1])         op += h * cirq.X(qubits[i])      return op

Хотелось бы еще раз обратить внимание на тот факт, что для $N$ кубитов оператор TFI это матрица размера $2^N imes 2^N$ (а не $N imes N$, как можно было бы подумать!) Чтобы убедится в этом, ниже, под спойлером, будет код определения такого же оператора на чистом NumPy в виде разреженной комплексной матрицы:

Код TFI на чистом NumPy и еще немного формул

Рассмотрим, например, оператор Паули $sigma^z$. Согласно определению, это матрица $2 imes 2$:

$sigma^z = egin{matrix}1 & 0 0 & -1end{matrix}$

Но, как можно было заметить, у нас система из $N$ кубит, а оператор, который действует на такую систему, это оператор размерности $2^N imes 2^N$. Чтобы понять, как мы от матрицы $2 imes 2$ переходим к матрице $2^N imes 2^N$, рассмотрим оператор $sigma^z_k$, который действует на $k$-й кубит в системе. Это эквивалентно тому, что мы действуем оператором $sigma^z$ на $k$-й кубит, а на остальные мы действуем единичными операторами $mathbf{1}$. Запишем это явно, используя произведение Кронекера $otimes$:

$sigma^z_k = mathbf{1}otimesmathbf{1}otimes ... otimes sigma^z otimes ... otimes mathbf{1} otimes mathbf{1}$

Определив схожим образом другие матрицы Паули, мы можем определить наш TFI оператор просто через операции привычной линейной алгебры: 

import numpy as np from scipy import sparse  def sigmaz_k(k, N) -> sparse.csr_matrix:     res = 1     for i in range(N):         if i == k:             res = sparse.kron(                 res,                 sparse.csr_matrix(                     np.array([[1, 0], [0, -1]], dtype=np.complex)                 )             )         else:             res = sparse.kron(res, sparse.eye(2, dtype=np.complex))      return res  def sigmax_k(k, N) -> sparse.csr_matrix:     res = 1     for i in range(N):         if i == k:             res = sparse.kron(                 res,                 sparse.csr_matrix(                     np.array([[0, 1], [1, 0]], dtype=np.complex)                 )             )         else:             res = sparse.kron(res, sparse.eye(2, dtype=np.complex))      return res  def tfi_op(N, j, h) -> sparse.csr_matrix:     res = sparse.csr_matrix((2 ** N, 2 ** N), dtype=np.complex)      for i in range(N - 1):         res += -j * sigmaz_k(i, N) * sigmaz_k(i + 1, N)         res += h * sigmax_k(i, N)      res += h * sigmax_k(N - 1, N)      return res

Это как раз и будет наша матрица $2^N imes 2^N$. В лоб перемножать матрицы не самый эффективный метод, моя реализация наивная, но идейно это то же самое, что происходит в Cirq.

Как я уже писал, минимальное собственное значение этого оператора мы легко найдем «классическими» методами (например, алгоритм Арнольди) в пару строчек кода, используя готовые рутины:

Код классического решения нашей задачи

Для определенного выше оператора Cirq op мы можем явно получить его матрицу, вызвав метод op.matrix(). Ну и рутины из scipy.sparse.linalg. 

from scipy import sparse from scipy.sparse import linalg  exact_sol = linalg.eigs(     sparse.csc_matrix(op.matrix()), k=1, which="SR", return_eigenvectors=False )[0] print(f"Exact solution: {np.real(exact_sol):.4f}")

Мы тут берем реальную часть, потому что из квантовой физики мы точно знаем, что собственные значения квантовых операторов реальные, так как они являются еще и потенциальными результатами измерений. Например, в физике, собственное значение оператора TFI соответствует энергии в эВ, то есть реальной физической величине.

Это значение нам потом пригодится для оценки того, куда и как сходится наш квантовый алгоритм.

Ну и наконец самое интересное, код для обучения нашей VQC на Tensorflow Quantum.

Код обучения 
# Оператор op = get_ising_operator(qubits, j, h)  # Модель model = tfq.layers.SampledExpectation()  # Вектор обучаемых параметров thetas = tf.Variable(np.random.random((1, 3 * dim)), dtype=tf.float32)  log_writer = tf.summary.create_file_writer("train")  for epoch in tqdm(range(epochs)):     with tf.GradientTape() as gt:         out = model(             cirquit,             symbol_names=params_x + params_y + params_z,             symbol_values=thetas,             operators=op,             repetitions=5000,         )      grad = gt.gradient(out, thetas)     thetas.assign_sub(lr * grad)      with log_writer.as_default():         tf.summary.scalar("Eigen Val", out[0, 0], step=epoch)         tf.summary.histogram("Gradients", grad, step=epoch)

lr тут это параметр, отвещающий за скорость градиентного спуска и являющийся гиперпараметром.

Это простейший стандартный цикл обучения в Tensorflow, а model — это объект класса tf.keras.layers.Layer, для которого можно применять все наши привычные оптимизаторы, логгеры и приемы из «классического» глубокого обучения. Параметры VQC хранятся в переменной типа tf.Variable и обновляются по простому правилу $ heta_{k+1} = heta_k - gamma cdot g_k$, это минимальная реализация градиентного спуска со скоростью $gamma$. Каждый раз мы используем 5000 измерений для максимально точной оценки ожидаемого значения нашего оператора $hat{mathbf{Op}}$ в состояниии $left | Psi( heta_k) ight >$. Все это в течение 350 эпох. На моем ноутбуке для $N = 5$, $j = 1.0$ и $h = 0.5$ процесс занял порядка 40 секунд.

Визуализируем графики обучения (scipy дал точное решение $simeq -0.47$): tensoboard --logdir train/

Результат по эпохам обучения
Гистограмма градиентов по эпохам обучения

Это уже «привычные» всем специалистам по машинному обучению картинки Tensorboard. Можно видеть, как собственное значение хорошо сходится к точному, а градиенты идут к нулю.

Замечание про точное решение

Внимательный читатель мог заметить, что решение VQC оказалось «ниже» решения прямой диагонализации. Я думаю причин тут две:

  1. tfq.layers.SampledExpectation, скорее всего, производит «измерения» $left < Psi( heta) ight | $ и $ hat{mathbf{Op}} left | Psi( heta) ight > $, после чего вычисляет ожидание прямым перемножением восстановленных волновых функций. Я думаю, основная погрешность живет именно в вероятностном характере квантовых измерений и их симуляций, потому что обычно мы измеряем все по оси $mathbf{Z}$, а «фазу» определяем, решая задачу квантовой томографии. Ну, по крайней мере, я бы делал такой «слой» именно так, хотя не берусь утверждать, что именно «под капотом» у Tensorflow Quantum.
  2. Итеративные алгоритмы дают нам ответ с мнимой частью отличной от нуля, что говорит о том, что они тоже не до конца точны (на то они и итеративные), так как из физики мы знаем, что наблюдаемые — это все же реальные числа. В свою очередь, это тоже может давать некий «сдвиг», так как в сигнатуре вызова scipy.linalg.eigs мы явно просили алгоритм найти собственные числа с минимальной действительной частью (which="SR"), а, возможно, надо было просить что-то другое.

Думаю, что основной фактор — это все же первый пункт, но не берусь утверждать точно. Возможно, кто-то в комментариях подскажет версию лучше.

Еще пара слов о потенциале такого Eigensolver-а

Несмотря на «игрушечность» примера с 5-ю кубитами, я бы хотел еще раз напомнить, что мы работаем с матрицей $2^N imes 2^N$. Более того, в сравнении с классическими методами глубокого обучения, сама идея о том, что мы параметризуем преобразование $mathbf{C}^{2^N} o mathbf{C}^{2^N}$ при помощи всего лишь $O(N)$ параметров (в нашем случае ровно $3N$) выглядит очень перспективно. Для сравнения — в классическом глубоком обучении такое преобразование кодировалось бы квадратной матрицей весов $W in mathbf{C}^{2^{N + 1}}$, то есть экспоненциально большим числом параметров. При этом в ряде работ было показано, что в сравнении с обычными полносвязными слоями нейронных сетей VQC даже более «выразительны» при столь меньшем числе параметров! Именно этим, как мне кажется, обусловлен такой живой интерес к этой области: если бы имели бы реальный квантовый компьютер, QML на основе таких VQC, вероятно, были бы гораздо круче классических нейронных сетей во многих задачах.

Заключение

Несомненно, сейчас не идет речи о каком-то реальном применении QML. Для сравнения — наша VQC обучалась около 45 секунд на моем ноутбуке, а scipy.sparse.eigs потребовались доли секунд, чтобы найти минимальное собственное значение. К тому же, даже на симуляторе, где нет шума, оценка tfq.layers.SampledExpectation явно «хромает», что уж говорить о реальных квантовых компьютерах. Но сейчас очень многие частные компании, такие как Google, IBM, Microsoft и другие, а также правительства и институты тратят огромные ресурсы на исследования в данном направлении. Квантовые компьютеры уже сегодня доступны для тестирования в облачных серверах IBM и AWS. Многие ученые высказывают уверенность в скором достижении квантового превосходства на практических задачах (напомню, превосходство на специально выбранной «удобной» для квантового компьютера задаче было достигнуто Google в прошлом году). Все это, а также таинственность и красота квантового мира, делает эту область такой привлекательной. Надеюсь, эта статья поможет и вам погрузиться в дивный квантовый мир!

Весь используемый код можно посмотреть в моем GitHub.


Источник: habr.com

Комментарии: