Мин-энтропия

Мин -энтропия в теории информации — наименьшая из семейства энтропий Реньи , соответствующая наиболее консервативному способу измерения непредсказуемости набора результатов, как отрицательному логарифму вероятности наиболее вероятного результата. Различные энтропии Реньи все равны для равномерного распределения, но измеряют непредсказуемость неравномерного распределения по-разному. Мин-энтропия никогда не превышает обычную или энтропию Шеннона (которая измеряет среднюю непредсказуемость результатов), а та, в свою очередь, никогда не превышает энтропию Хартли или макс-энтропию , определяемую как логарифм числа результатов с ненулевой вероятностью.

Как и в случае с классической энтропией Шеннона и ее квантовым обобщением, энтропией фон Неймана , можно определить условную версию min-энтропии. Условная квантовая min-энтропия является одноразовым, или консервативным, аналогом условной квантовой энтропии .

Для интерпретации условной информационной меры предположим, что Алиса и Боб разделяют двухчастичное квантовое состояние . Алиса имеет доступ к системе , а Боб — к системе . Условная энтропия измеряет среднюю неопределенность, которую Боб имеет относительно состояния Алисы при выборке из своей собственной системы. Минимальную энтропию можно интерпретировать как расстояние состояния от максимально запутанного состояния.${\displaystyle \rho _{AB}}$${\displaystyle А}$${\displaystyle Б}$

Эта концепция полезна в квантовой криптографии в контексте усиления конфиденциальности (см., например, ^[1] ).

Если — классическое конечное распределение вероятностей, его минимальная энтропия может быть определена как ^[2] Один из способов оправдать название величины — сравнить ее с более стандартным определением энтропии, которое читается как , и, таким образом, может быть записано кратко как математическое ожидание по распределению. Если вместо математического ожидания этой величины мы возьмем ее минимальное значение, мы получим в точности приведенное выше определение .${\displaystyle P=(p_{1},...,p_{n})}$ $${\displaystyle H_{\rm {min}}({\boldsymbol {P}})=\log {\frac {1}{P_{\rm {max}}}},\qquad P_{\rm {max}}\equiv \max _{i}p_{i}.}$$${\displaystyle H({\boldsymbol {P}})=\sum _{i}p_{i}\log(1/p_{i})}$${\displaystyle \log(1/p_{i})}$${\displaystyle H_{\rm {min}}({\boldsymbol {P}})}$

С операционной точки зрения, мин-энтропия равна отрицательному логарифму вероятности успешного угадывания результата случайного розыгрыша из . Это происходит потому, что оптимально угадывать элемент с наибольшей вероятностью, а шанс успеха равен вероятности этого элемента.${\displaystyle P}$

Естественным способом обобщения «min-entropy» с классических на квантовые состояния является использование простого наблюдения, что квантовые состояния определяют классические распределения вероятностей при измерении в некотором базисе. Однако есть дополнительная сложность, заключающаяся в том, что одно квантовое состояние может привести к бесконечному числу возможных распределений вероятностей, в зависимости от того, как оно измеряется. Тогда естественным путем, учитывая квантовое состояние , по-прежнему определять как , но на этот раз определять как максимально возможную вероятность, которая может быть получена при измерении , максимизируя по всем возможным проективным измерениям. Используя это, можно получить рабочее определение, что min-entropy равна отрицательному логарифму вероятности успешного угадывания результата любого измерения .${\displaystyle \ро}$${\displaystyle H_{\rm {min}}(\rho )}$${\displaystyle \log(1/P_{\rm {макс}})}$${\displaystyle P_{\rm {макс}}}$${\displaystyle \ро}$${\displaystyle \ро}$${\displaystyle \ро}$

Формально это приводит к определению, в котором мы максимизируем по набору всех проективных измерений , представляем результаты измерений в формализме POVM и, следовательно, являемся вероятностью наблюдения -го результата, когда измерение равно .$${\displaystyle H_{\rm {min}}(\rho )=\max _{\Pi }\log {\frac {1}{\max _{i}\operatorname {tr} (\Pi _{i}\rho )}}=-\max _{\Pi }\log \max _{i}\operatorname {tr} (\Pi _{i}\rho ),}$$${\displaystyle \Pi =(\Pi _{i})_{i}}$${\displaystyle \Пи _{я}}$${\displaystyle \operatorname {tr} (\Pi _{i}\rho )}$${\displaystyle я}$${\displaystyle \Пи}$

Более краткий метод записи двойной максимизации состоит в том, чтобы заметить, что любой элемент любого POVM является эрмитовым оператором, таким что , и, таким образом, мы можем эквивалентно напрямую максимизировать по ним, чтобы получить Фактически, эта максимизация может быть выполнена явно, и максимум получается, когда является проекцией на (любое из) наибольшее собственное значение(я) . Таким образом, мы получаем еще одно выражение для минимальной энтропии как: помня, что операторная норма эрмитова положительно полуопределенного оператора равна его наибольшему собственному значению.${\displaystyle 0\leq \Пи \leq I}$$${\displaystyle H_{\rm {min}}(\rho )=-\max _{0\leq \Pi \leq I}\log \operatorname {tr} (\Pi \rho ).}$$${\displaystyle \Пи}$${\displaystyle \ро}$$${\displaystyle H_{\rm {min}}(\rho )=-\log \|\rho \|_{\rm {op}},}$$

Пусть — двудольный оператор плотности на пространстве . Минимальная энтропия обусловленного определяется как${\displaystyle \rho _{AB}}$${\displaystyle {\mathcal {H}}_{A}\otimes {\mathcal {H}}_{B}}$${\displaystyle А}$${\displaystyle Б}$

${\displaystyle H_{\min}(A|B)_{\rho}\equiv -\inf _{\sigma _{B}}D_{\max}(\rho _{AB}\|I_{A}\otimes \sigma _{B})}$

где инфимум пробегает все операторы плотности в пространстве . Мера — это максимальная относительная энтропия, определяемая как${\displaystyle \сигма _{B}}$${\displaystyle {\mathcal {H}}_{B}}$${\displaystyle D_{\макс }}$

${\displaystyle D_{\max}(\rho \|\sigma )=\inf _{\lambda }\{\lambda :\rho \leq 2^{\lambda }\sigma \}}$

Гладкая минимальная энтропия определяется через минимальную энтропию.

${\displaystyle H_{\min }^{\epsilon }(A|B)_{\rho }=\sup _{\rho '}H_{\min }(A|B)_{\rho '}}$

где sup и inf пробегают операторы плотности, которые -близки к . Эта мера -близости определяется в терминах очищенного расстояния${\displaystyle \rho '_{AB}}$${\displaystyle \epsilon }$${\displaystyle \rho _{AB}}$${\displaystyle \epsilon }$

${\displaystyle P(\rho ,\sigma )={\sqrt {1-F(\rho ,\sigma )^{2}}}}$

где мера верности .${\displaystyle F(\rho ,\sigma )}$

Эти величины можно рассматривать как обобщения энтропии фон Неймана . Действительно, энтропия фон Неймана может быть выражена как

${\displaystyle S(A|B)_{\rho }=\lim _{\epsilon \rightarrow 0}\lim _{n\rightarrow \infty }{\frac {1}{n}}H_{\min }^{\epsilon }(A^{n}|B^{n})_{\rho ^{\otimes n}}~.}$

Это называется полностью квантовой асимптотической теоремой о равнораспределении. ^[3] Сглаженные энтропии разделяют много интересных свойств с энтропией фон Неймана. Например, гладкая минимальная энтропия удовлетворяет неравенству обработки данных: ^[4]

${\displaystyle H_{\min }^{\epsilon }(A|B)_{\rho }\geq H_{\min }^{\epsilon }(A|BC)_{\rho }~.}$

В дальнейшем мы будем опускать нижний индекс у min-энтропии, когда из контекста очевидно, в каком состоянии она оценивается.${\displaystyle \rho }$

Предположим, что агент имеет доступ к квантовой системе , состояние которой зависит от некоторой классической переменной . Кроме того, предположим, что каждый из ее элементов распределен в соответствии с некоторым распределением . Это можно описать следующим состоянием над системой .${\displaystyle B}$${\displaystyle \rho _{B}^{x}}$${\displaystyle X}$${\displaystyle x}$${\displaystyle P_{X}(x)}$${\displaystyle XB}$

${\displaystyle \rho _{XB}=\sum _{x}P_{X}(x)|x\rangle \langle x|\otimes \rho _{B}^{x},}$

где образуют ортонормальный базис. Мы хотели бы узнать, что агент может узнать о классической переменной . Пусть будет вероятностью того, что агент угадает при использовании оптимальной стратегии измерения${\displaystyle \{|x\rangle \}}$${\displaystyle x}$${\displaystyle p_{g}(X|B)}$${\displaystyle X}$

${\displaystyle p_{g}(X|B)=\sum _{x}P_{X}(x)\operatorname {tr} (E_{x}\rho _{B}^{x}),}$

где — POVM, которая максимизирует это выражение. Можно показать ^[5] , что этот оптимум может быть выражен в терминах min-энтропии как${\displaystyle E_{x}}$

${\displaystyle p_{g}(X|B)=2^{-H_{\min }(X|B)}~.}$

Если состояние является продуктом состояния т.е. для некоторых операторов плотности и , то корреляция между системами и отсутствует . В этом случае оказывается, что${\displaystyle \rho _{XB}}$${\displaystyle \rho _{XB}=\sigma _{X}\otimes \tau _{B}}$${\displaystyle \sigma _{X}}$${\displaystyle \tau _{B}}$${\displaystyle X}$${\displaystyle B}$${\displaystyle 2^{-H_{\min }(X|B)}=\max _{x}P_{X}(x)~.}$

Поскольку условная минимальная энтропия всегда меньше условной энтропии фон Неймана, то отсюда следует, что

${\displaystyle p_{g}(X|B)\geq 2^{-S(A|B)_{\rho }}~.}$

Максимально запутанное состояние в двухчастичной системе определяется как${\displaystyle |\phi ^{+}\rangle }$${\displaystyle {\mathcal {H}}_{A}\otimes {\mathcal {H}}_{B}}$

${\displaystyle |\phi ^{+}\rangle _{AB}={\frac {1}{\sqrt {d}}}\sum _{x_{A},x_{B}}|x_{A}\rangle |x_{B}\rangle }$

где и образуют ортонормированный базис для пространств и соответственно. Для двудольного квантового состояния мы определяем максимальное перекрытие с максимально запутанным состоянием как${\displaystyle \{|x_{A}\rangle \}}$${\displaystyle \{|x_{B}\rangle \}}$${\displaystyle A}$${\displaystyle B}$${\displaystyle \rho _{AB}}$

${\displaystyle q_{c}(A|B)=d_{A}\max _{\mathcal {E}}F\left((I_{A}\otimes {\mathcal {E}})\rho _{AB},|\phi ^{+}\rangle \langle \phi ^{+}|\right)^{2}}$

где максимум по всем операциям CPTP и является размерностью подсистемы . Это мера того, насколько коррелировано состояние . Можно показать, что . Если информация, содержащаяся в , является классической, это сводится к выражению выше для вероятности угадывания.${\displaystyle {\mathcal {E}}}$${\displaystyle d_{A}}$${\displaystyle A}$${\displaystyle \rho _{AB}}$${\displaystyle q_{c}(A|B)=2^{-H_{\min }(A|B)}}$${\displaystyle A}$

Доказательство взято из статьи Кенига, Шаффнера, Реннера 2008 года. ^[6] Оно включает в себя аппарат полуопределенных программ . ^[7] Предположим, что нам дан некоторый двудольный оператор плотности . Из определения минимальной энтропии имеем${\displaystyle \rho _{AB}}$

${\displaystyle H_{\min }(A|B)=-\inf _{\sigma _{B}}\inf _{\lambda }\{\lambda |\rho _{AB}\leq 2^{\lambda }(I_{A}\otimes \sigma _{B})\}~.}$

Это можно переписать как

${\displaystyle -\log \inf _{\sigma _{B}}\operatorname {Tr} (\sigma _{B})}$

при соблюдении условий

${\displaystyle \sigma _{B}\geq 0}$

${\displaystyle I_{A}\otimes \sigma _{B}\geq \rho _{AB}~.}$

Мы замечаем, что инфимум берется по компактным множествам и, следовательно, может быть заменен минимумом. Это может быть кратко выражено как полуопределенная программа. Рассмотрим основную задачу

${\displaystyle {\text{min:}}\operatorname {Tr} (\sigma _{B})}$

${\displaystyle {\text{subject to: }}I_{A}\otimes \sigma _{B}\geq \rho _{AB}}$

${\displaystyle \sigma _{B}\geq 0~.}$

Эта основная задача также может быть полностью определена матрицами , где является сопряженным к частичному следу над . Действие на операторы на можно записать как${\displaystyle (\rho _{AB},I_{B},\operatorname {Tr} ^{*})}$${\displaystyle \operatorname {Tr} ^{*}}$${\displaystyle A}$${\displaystyle \operatorname {Tr} ^{*}}$${\displaystyle B}$

${\displaystyle \operatorname {Tr} ^{*}(X)=I_{A}\otimes X~.}$

Мы можем выразить двойственную задачу как максимизацию по операторам в пространстве следующим образом:${\displaystyle E_{AB}}$${\displaystyle AB}$

${\displaystyle {\text{max:}}\operatorname {Tr} (\rho _{AB}E_{AB})}$

${\displaystyle {\text{subject to: }}\operatorname {Tr} _{A}(E_{AB})=I_{B}}$

${\displaystyle E_{AB}\geq 0~.}$

Используя изоморфизм Чоя–Ямилковского , мы можем определить канал таким образом, что${\displaystyle {\mathcal {E}}}$

${\displaystyle d_{A}I_{A}\otimes {\mathcal {E}}^{\dagger }(|\phi ^{+}\rangle \langle \phi ^{+}|)=E_{AB}}$

где состояние колокола определено над пространством . Это означает, что мы можем выразить целевую функцию двойственной задачи как${\displaystyle AA'}$

${\displaystyle \langle \rho _{AB},E_{AB}\rangle =d_{A}\langle \rho _{AB},I_{A}\otimes {\mathcal {E}}^{\dagger }(|\phi ^{+}\rangle \langle \phi ^{+}|)\rangle }$

${\displaystyle =d_{A}\langle I_{A}\otimes {\mathcal {E}}(\rho _{AB}),|\phi ^{+}\rangle \langle \phi ^{+}|)\rangle }$

по желанию.

Обратите внимание, что в случае, если система находится в частично классическом состоянии, как указано выше, то искомая нами величина уменьшается до${\displaystyle A}$

${\displaystyle \max P_{X}(x)\langle x|{\mathcal {E}}(\rho _{B}^{x})|x\rangle ~.}$

Мы можем интерпретировать это как стратегию угадывания, и тогда это сводится к интерпретации, приведенной выше, где злоумышленник хочет найти строку, получив доступ к квантовой информации через систему .${\displaystyle {\mathcal {E}}}$${\displaystyle x}$${\displaystyle B}$

• энтропия фон Неймана
• Обобщенная относительная энтропия
• макс-энтропия