Камера глубины в смартфоне что это

Что делают 3D-сенсоры в смартфонах? РАЗБОР

Все чаще мы видим в смартфонах так называемые 3D-сенсоры, или сенсоры глубины. Большинство из них также называют ToF-сенсорами аналогично одноименной технологии. По слухам, такой сенсор будет установлен и в новом iPhone (там он называется LiDAR, подробнее мы об этом рассказывали в другом материале). Эти сенсоры довольно дорого стоят, но зачем они нужны понятно не всем. Производители уверяют, что сенсоры позволяют делать лучше фото и портреты или добавляют фишки в дополненную реальность. Но так ли это на самом деле?

Сегодня обсудим, зачем нужны 3D-сенсоры в смартфонах, как это работает, ну и конечно, проведем несколько тестов и проверим заявления производителей.

Что такое 3D сенсор (сенсор глубины)

Для начала, давайте разберемся, а что такое 3D-сенсор? Фотокамеры захватывают проекцию окружающего мира на плоскость. По одной лишь фотографии не понять реальный размер объекта — размером ли он с бутылку или с Пизанскую башню. И расстояние до него тоже не понять.

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

Для того, чтобы понимать реальные размеры объектов на фото, масштабы съемки, отличать, что ближе к камере, а что дальше, и нужны 3D-сенсоры. Они уже давно и активно применяются в робототехнике, автономном транспорте, играх, медицине и много где еще. Более того, наши глаза — это тоже 3D сенсор. При этом, в отличие от LiDAR’а и ToF-сенсоров в смартфонах, глаза — пассивный 3D-сенсор. То есть не излучающий никакого света, а работающий только на основе поступающего света. Только благодаря этому мы можем хоть как-то перемещаться в пространстве и взаимодействовать с окружающими объектами. Теперь 3D-сенсоры появились и в смартфонах.

Как работает ToF?

LiDAR в iPad’е, а также все 3D-сенсоры в Android-смартфонах — это time-of-flight или сокращенно ToF-сенсоры. Они определяют расстояния до объектов вокруг, напрямую измеряя сколько времени понадобится свету, чтобы долететь от камеры до объекта и вернуться обратно. Это очень похоже на эхо в пещере, оно тоже после отражения от стенок возвращается к нам с запаздыванием. Чтобы пролететь 1 метр свету нужно 3 наносекунды, для 1 см — 30 пикосекунд. Вроде бы все понятно. Но есть проблема.

Это очень маленькие промежутки времени. Как камера может такое замерить? Не будет же она делать миллиард кадров в секунду, а потом их сравнивать? Есть 2 основных подхода для решения этой проблемы: dToF (direct ToF) и iToF (indirect ToF). И чтобы вас заинтриговать еще сильнее: абсолютное большинство Android-смартфонов используют как раз iToF сенсоры, тогда как LiDAR в Apple iPad и скорее всего в грядущих iPhone — это редкий представитель семейства dToF сенсоров. Так чем же они отличаются?

iToF — indirect ToF

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

Начнем с iToF. В таких сенсорах излучатель отправляет высокочастотный модулированный свет, то есть этот свет постоянно включается и выключается с частотой десятки миллионов раз в секунду. За счет того, что свету нужно время для полета до объекта и обратно, фаза, то есть вот это состояние где-то между включенностью и выключенностью, света, вернувшегося в камеру, немного отличается от фазы света в момент отправки. На сенсоре исходный и отраженный обратно от объекта сигналы накладываются друг на друга, и за счет этого определяется сдвиг фаз, который и позволяет понять расстояние до каждой точки объекта.

dToF — direct ToF

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

dToF работает немного иначе. В таких сенсорах напрямую измеряется разница во времени между отправкой света и детектированием его отражения на сенсоре. Для этого используются так называемые SPAD: single photon avalanche diodes. Они могут детектировать крайне маленькие импульсы света, фактически даже ловить единичные фотоны. Такие SPAD расположены в каждом пикселе сенсора. А в качестве излучателя в таких сенсорах используются как правило так называемые VCSEL — Vertical Cavity, Surface Emitting Laser. Это лазерный излучатель, подобный тем, что используются в лазерных мышках и много где еще. dToF сенсор в LiDAR разработан совместно с Sony и является первым массовым коммерческим dToF сенсором.

Можно лишь гадать, почему в iPad используется dToF сенсор, но давайте отметим преимущества такого сенсора. Во-первых, в отличие от iToF сенсора излучатель испускает не сплошную стену света, а лишь светит в отдельных направлениях, что позволяет экономить батарейку. Во-вторых, dToF сенсор меньше подвержен ошибкам в измерении глубины из-за так называемой multipath interference. Это типичная проблема iToF сенсоров. Она возникает из-за переотражения света между объектами перед попаданием обратно в сенсор и искажает измерения сенсора.

Как это работает, разобрались, давайте теперь посмотрим, а зачем вообще 3D-сенсоры используются в смартфонах.

Зачем это нужно в смартфонах

1. Безопасность

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

Первым массовым внедрением 3D-сенсоров в смартфонах мы обязаны Apple и технологии Face ID. Распознавание лиц при использовании трёхмерных данных намного точнее и надежнее классического распознавания лиц по фото. Для Face ID Apple использует технологию структурированной подсветки, на ней мы остановимся подробнее как-нибудь в следующий раз.

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

Большинство производителей заявляют, что именно более качественный и точный режим дополненной реальности является главной задачей 3D-сенсоров. Более того, это также поддерживается непосредственно компанией Google. Буквально недавно они представили грядущее обновление своей библиотеки дополненной реальности ARCore, позволяющее более реалистично размещать виртуальные объекты в реальности и взаимодействовать с реальными объектами.

Для этой же задачи Apple встроили LiDAR в iPad Pro. Такое можно делать и без 3D-сенсора, но с ним все работает точнее и надежнее, плюс задача становится вычислительно сильно проще и разгружает процессор. 3D-сенсор выводит AR на другой уровень.

3. Улучшение фотографий

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

Ряд производителей, например, Samsung и HUAWEI заявляют, что 3D-сенсор используется в первую очередь для более качественного размытия фона и более точного автофокуса при съемке видео. Другими словами, он позволяет увеличить качество обычных фото и видео.

4. Прочее

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

Доступ к данным сенсоров у некоторых смартфонов открыт, поэтому появляется все больше приложений, предлагающих новые применения. Так, например, с помощью внешних приложений 3D-сенсор можно использовать для измерения объектов, трехмерного сканирования и motion tracking’а. Есть даже приложение, позволяющее сделать из своего смартфона прибор ночного видения.

Тесты

С тем как это работает в теории разобрались, давайте теперь посмотрим, как это работает на практике, и есть ли какой-то толк от этих дорогущих 3D-сенсоров в флагманах. Для тестов мы взяли Redmi Note 9S, у него есть ToF-сенсор и мы сделали несколько снимков в портретном режиме, но во втором случае просто закрыли 3D-камеру пальцем. И вот что получилось.

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

Всё просто — размытие действительно больше и лучше, если ToF работает.

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

И для частоты эксперимента мы взяли Samsung Galaxy S20 Ultra, который также получил ToF-камеру.

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

И найдите хотя бы одно отличие?

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

Что получается? Дело в том, что в зависимости от производителя ToF-камера используется по-разному и в разной степени.

Можно сказать, что часть производителей смартфонов располагает ToF-датчики в своих смартфонов не для маркетинга, чтобы добавить ещё одну камеру, а скорее на всякий случай. А дальше уже алгоритмы решают — использовать эту камеру или нет?

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

При этом на сегодняшний момент необходимости в LiDAR или ToF-камерах прямо нет. Так что это видимо чуть больше маркетинг.

Источник

Что такое сенсор глубины на смартфоне? Или почему портретный режим превратился в инструмент для обмана

Каждый раз, делая обзор на очередной смартфон и упоминая «сенсор глубины», я чувствую, что ввожу читателя в заблуждение.

Сегодня этот загадочный датчик глубины встречается на подавляющем большинстве устройств, ведь он так важен для портретного режима с красивым размытием фона (эффект боке, живой фокус, режим диафрагмы и пр.).

А может и не важен вовсе? Возможно, вы встречали на просторах интернета разоблачения, в которых люди полностью заклеивали сенсор глубины, а смартфон продолжал размывать фон на портретных снимках, как ни в чем не бывало. Получается, телефоны умеют определять глубину сцены и без сенсора глубины? Зачем же он тогда нужен?

Ну и главный вопрос — как вообще устроен этот «сенсор»? На чем основан принцип его работы?

Бегло просмотрев несколько популярных статей и роликов в интернете, я с удивлением обнаружил, что многие люди думают, будто этот сенсор посылает световые импульсы и определяет время задержки отраженного луча. То есть, как-то активно участвует в построении карты глубины.

А вот, к примеру, на сайте Popular Science (Популярная наука) приводится следующее объяснение (в моем вольном переводе):

Датчик глубины (depth sensor) предназначен именно для определения глубины сцены. В топовых современных смартфонах датчик глубины постепенно исчезает, так как его заменяют другие камеры, умеющие ощущать глубину и объем сцены, например широкоугольная или телеобъектив.

Камеры, ощущающие глубину — это, конечно, очень интересно, но давайте разберемся, что же происходит на самом деле.

Зачем вообще нужен какой-то сенсор глубины?

Современный смартфон должен не просто «видеть» через камеру плоскую картинку, но и «понимать», на каком расстоянии находится каждый объект в сцене. То есть, он должен уметь «ощущать» глубину сцены. И на это есть целый ряд причин.

Например, благодаря умению построить карту глубины, телефоны научились делать красивые фотографии с размытием фона. Да, часто на таких снимках заметна искусственная обработка, но иногда результат практически не отличим от работы зеркального фотоаппарата:

Сделать что-то подобное при помощи оптики нереально, так как единственный параметр, отвечающий за степень размытия фона — это диаметр входного зрачка объектива (проще говоря, размер дырки, через которую свет попадает в объектив смартфона).

На самых дорогих камерофонах он не превышает и 4 миллиметров, в то время, как даже у бюджетного объектива зеркального фотоаппарата он будет минимум в 2 раза больше (а у дорогих объективов — в 10-15 раз).

Помимо этого, на смартфоны постепенно приходит дополненная реальность (AR), позволяющая определять размеры объектов, расстояние между предметами и делать много всего удивительного (примерять вещи и различные аксессуары, смотреть, как будет выглядеть мебель в интерьере своего дома и многое другое).

Также умение определять глубину позволяет создавать более надежные и удобные способы блокировки смартфона (например, технология FaceID, которая делает «трехмерный» снимок лица).

Многие производители пытаются придумать новые способы управления смартфоном при помощи бесконтактных жестов, а для этого также нужно хорошо понимать положение рук в пространстве.

Но как смартфоны определяют глубину и какие датчики для этого используются?

Три кита

На сегодняшний день существует всего 3 основных метода, позволяющие смартфонам «ощущать» объем:

Открою небольшую тайну. В некоторых смартфонах в качестве всем нам знакомого датчика приближения (тот, который блокирует экран во время входящего звонка) используется самая настоящая ToF-камера с лазерным излучателем и специальным высокочувствительным сенсором, измеряющим время полета света и определяющим точное расстояние до объекта. Работает он, естественно, гораздо точнее и качественнее обычных инфракрасных датчиков, встречающихся на подавляющем большинстве устройств.

Так вот, возвращаясь к нашей теме, горькая правда заключается в том, что для первого метода определения глубины сцены (стереозрение) не нужны дополнительные датчики.

Если на смартфоне уже есть две камеры (например, основная и ультраширокоугольная, или основная и телеобъектив), использовать еще третий «сенсор глубины» (то есть, еще одну камеру) нет никакого смысла.

Дополнительный «сенсор глубины» на 99.9% смартфонов — это банальная попытка ввести покупателя в заблуждение.

Возьмем, к примеру, смартфон Redmi Note 9 Pro, у которого сзади размещено 4 камеры:

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

Здесь уже есть основная и ультраширокоугольная камеры (две верхние). И этого более, чем достаточно для определения глубины сцены по принципу стерео-зрения. Но компания пытается обмануть покупателя, показав больше камер, чем у конкурентов. И таких примеров масса: Samsung Galaxy A51, Xiaomi Poco X3, OnePlus Nord, Huawei Y8p и мн. др.

Так как «сенсор глубины» — это самая обыкновенная камера с очень низким разрешением, то стоимость такой матрицы составляет от 30 центов за 2 Мп сенсор до 50-60 центов за 5 Мп сенсор (правда, за последний год цены немного выросли из-за колоссального спроса на столь дешевые компоненты).

Производитель за пару баксов может легко набросать пару лишних камер на корпус и затем использовать это количество в качестве конкурентного преимущества, внушая покупателям, что смартфон с пятью камерами снимает ну почти как зеркалка.

Еще раз повторю ключевую мысль прежде, чем мы продолжим: все современные смартфоны, за исключением буквально 10-15 флагманских моделей, определяют глубину сцены при помощи двух обыкновенных камер и метода под названием стереозрение. Да и те 10-15 флагманов также используют в основном стереозрение, а ToF-сенсор служит лишь как дополнительный инструмент.

Многие аппараты (Samsung Galaxy S20/Note20, Huawei P40, iPhone 11 Pro и прочие), легко обходятся основными камерами (широкоугольной, ультраширокоугольной или телеобъективом). Другие же устанавливают дополнительную камеру за три копейки исключительно в маркетинговых целях без малейшей технической необходимости.

А некоторые и вовсе идут на серьезный обман — устанавливают 2-Мп низкокачественную камеру а-ля «сенсор глубины», а сами используют широкоугольную камеру, так как ее качество гораздо выше.

Как смартфон определяет глубину, используя стереозрение и 2 камеры?

Итак, мы определились, что никакого «сенсора глубины» нет. Это обычная (и зачастую — лишняя) камера. Но что же такое стереозрение и как оно работает? Зачем нам нужны две камеры, ведь есть смартфоны, которые умеют размывать фон даже с одной камерой?

Наш мозг использует множество техник для определения глубины и объема сцены, например:

Можно продолжать этот список, но главная причина, по которой мы ощущаем объем, заключается в другом.

У каждого из нас есть два глаза, размещенных на небольшом расстоянии друг от друга. Причем один из них — не запасной и не для красоты или симметрии. Если мы будем смотреть на что-то поочередно то одним, то другим глазом, тогда те объекты, что расположены ближе к нам, будут смещаться в стороны гораздо сильнее тех объектов, что расположены дальше.

Очевидно, что так происходит потому, что правый глаз видит всю сцену как бы с правой стороны, а левый — с левой:

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

На картинке выше в левом глазу дерево немного сместилось влево, а цветок — вправо. А в правом глазу получилось наоборот — цветок оказался немного левее дерева.

Теперь мозг берет «картинки» из двух глаз и анализирует смещение каждой «точки». Возьмем левый глаз. Чем сильнее точка сместилась вправо (относительно такой же точки в правом глазу), тем ближе она находится к нам и наоборот, чем сильнее сместилась влево — тем она дальше от нас.

Это хорошо видно на следующей анимации, где поочередно меняются картинки, которые увидел левый и правый глаз:

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

Обратите внимание, как камни в левом нижнем углу смещаются вправо (значит, находятся ближе), в то время, как деревья в правом верхнем углу уходят влево (находятся дальше). Получается, даже меняя поочередно две картинки, мы уже можем ощутить объем.

Вот еще одна наглядная анимация:

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

Вроде бы всё просто и понятно. Но как же это делает смартфон? Как конкретно он строит карту глубины всей сцены, используя две камеры?

Чтобы разобраться с этим, давайте рассмотрим простой пример.

Итак, у нас есть какая-то точка в пространстве и смартфон с двумя камерами. Свет от точки проходит через объектив каждой камеры и попадает на матрицу. Мы получили два плоских снимка этой точки и не можем определить расстояние до нее:

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

Думаю, вы обратили внимание на одну странность — почему матрица камеры находится перед самой камерой, хотя должна находиться за объективом? На самом деле, мы просто разместили ее так схематически для простоты понимания. Это ни на что не влияет и принцип работы сохраняется.

Нам нужно узнать расстояние до красной точки. Мы знаем только расстояние между двумя камерами (производитель разместил их на определенном расстоянии друг от друга). Также нам известно фокусное расстояние камер, то есть, расстояние от центра линзы до матрицы, на которую она проецирует изображение:

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

На первый взгляд кажется, что сделать это невозможно и нам ничего не дает знание расстояния между камерами.

К слову, если мы используем камеры с разными фокусными расстояниями (например широкоугольную и телеобъектив), тогда нужно просто сделать кроп на снимке с более широким углом (вырезать часть кадра) и дальше уже работать, как с идентичным фокусным расстоянием:

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

Итак, давайте посмотрим, как свет от красной точки P упадет на наши матрицы и превратится в точки на снимках:

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

Обратите внимание на то, что точка на левом снимке оказалась справа от центра матрицы, а на правом снимке эта же точка оказалась левее центра. Если бы мы приняли центр за начало отсчета, тогда точка слева ушла бы по горизонтальной оси в плюс (вправо), а справа — в минус (так как центр — это 0):

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

И как все эти рисунки помогут нам найти расстояние Z (от камеры до точки в пространстве)?

Думаю, вы уже давно заметили, что все эти точки образовывают треугольники. В частности, здесь можно увидеть два подобных треугольника. Один проходит через наши красные точки на двух снимках и точку в пространстве (зеленый треугольник слева), а другой проходит через центры объективов и точку в пространстве (синий треугольник справа):

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

Эти треугольники подобны, а значит, их стороны соответственно пропорциональны и все углы соответственно равны. И вот уже из этого подобия мы можем легко определить расстояние от камеры до любой точки в пространстве, то есть, найти величину Z.

Я упущу несложные математические расчеты и просто запишу конечный результат:

Z = F * D/(d1-d2)

Здесь F — это фокусное расстояние объектива (известная заранее характеристика нашей камеры), D — расстояние между камерами (также известно), а d1 и d2 — смещение конкретной точки (пикселя) на снимках с левой и правой камер.

Другими словами, смартфон делает ровно то же, что и наш мозг — определяет глубину сцены только по смещению (несоответствию) пикселей на левой и правой фотографии (или на «картинке» в левом и правом глазу).

Получается, всё, что нам нужно — это две (любые) камеры и больше ничего. Соответственно, третья камера («сенсор глубины») совершенно бесполезна.

Но мой смартфон делает превосходные портреты даже с одной камерой!

Некоторые смартфоны действительно могут определять глубину сцены даже с одной камерой. И делается это при помощи искусственного интеллекта.

Опять-таки, смартфон пытается копировать работу нашего мозга. Когда мы смотрим на сцену одним глазом (или двумя глазами смотрим на плоскую фотографию), то легко определяем, какой объект находится дальше, а какой — ближе.

Смартфоны также учатся сегментировать фотографии и выделять на снимках людей. Для этого нужно обучить нейронную сеть отличать человека от других объектов.

Но даже в случае с одной камерой, нейросеть берет дополнительную информацию с двух снимков. Двух снимков?! Но откуда же берется второй снимок, если камера всего одна?

Дело в том, что очень многие современные матрицы имеют фазовый автофокус Dual Pixel. То есть, фактически каждый пиксель на матрице состоит из двух отдельных «пикселей» (фотодиодов), каждый из которых собирает информацию только с половины линзы. Скажем, левый пиксель берет информацию с правой половины линзы, а правый — с левой половины:

Можно сказать, что у нас появляются две камеры (две части одной линзы) с небольшим расстоянием. Да, это крошечное расстояние, но его достаточно, чтобы уже заметить какое-то смещение пикселей.

Вот два примера таких снимков, полученных с двух половин линзы (Dual-Pixel 1 и Dual-Pixel 2) одной камеры:

Как видите, смещение на примере слева более ярко выражено, так как лампочка находится гораздо ближе к камере, нежели человек на втором снимке.

Использование двух камер (то, о чем мы говорили выше) будет давать гораздо большее смещение, чем использование одной камеры с фазовым автофокусом Dual Pixel. Это можно наглядно увидеть на следующем примере (слева — одна камера, но разные части линзы, а справа — две камеры на небольшом расстоянии друг от друга):

Но некоторые смартфоны умудряются делать портретные режимы даже без двух камер или двух изображений с разных половин одной линзы. Правда, качество такого размытия заметно уступает традиционному стереозрению.

Всё, о чем я говорил выше, касается только пассивной технологии определения глубины сцены, когда смартфон просто «смотрит» на мир через камеру/камеры и никак не пытается с ним взаимодействовать.

Однако существует и более продвинутая активная технология, когда смартфон изучает сцену при помощи лазера (ToF-сенсоры и лидары). Но об этом я подробно расскажу как-нибудь в другой раз.

Алексей, глав. редактор Deep-Review

P.S. Не забудьте подписаться в Telegram на первый научно-популярный сайт о мобильных технологиях — Deep-Review, чтобы не пропустить очень интересные материалы, которые мы сейчас готовим!

Как бы вы оценили эту статью?

Нажмите на звездочку для оценки

Внизу страницы есть комментарии.

Напишите свое мнение там, чтобы его увидели все читатели!

Если Вы хотите только поставить оценку, укажите, что именно не так?

Источник

ToF-камеры в смартфонах: что это такое, зачем нужно, как работает

Пару лет назад в смартфонах начали появляться так называемые ToF-камеры. Сначала – во флагманских моделях, потом в среднем сегменте, а в итоге новинка докатилась и до бюджетников.

Как обычно бывает в таких случаях, свежая технология дружно считалась нереально крутой весьма перспективной, но… Время – лучший судья.

Новые поколения флагманов уже не содержат в своем блоке камер этого самого тофу, или как его там ToF. Почему так случилось? Будем разбираться.

Как работает ToF сенсор

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

Сама аббревиатура ToF означает «time of flight», или в переводе – «время полета». Другое название этого элемента – сенсор глубины. И все это вкупе отражает принципы работы устройства.

Что такое сонар – большинству из нас объяснять не нужно. Излучатель звука посылает звуковую волну, которая, отражаясь от препятствий, возвращается к источнику и регистрируется специальным сенсором.

При этом происходит замер времени, потребовавшегося волне, чтобы достичь препятствия и вернуться. На основании этих данных строится картина рельефа, например, морского дна.

ToF сенсор работает в точности так же. Только вместо звука используется длинноволновое ИК-излучение, испускаемое специальным инфракрасным светодиодом.

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

А CMOS матрица улавливает его отражение и с точностью до наносекунд регистрирует время.

На основании полученных данных можно не только измерить расстояние до объекта, но и снять его рельеф. Выглядит прямо-таки чертовски заманчиво… на первый взгляд.

Очевидно, что новинка впервые пришла отнюдь не в смартфоны: ранее она уже была обкатана на беспилотных авто и даже спутниках. Однако миниатюризация и удешевление позволили прикрутить ее и к мобильным девайсам.

Где это можно использовать

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

Первым и наиболее очевидным вариантом является получение снимков с эффектом боке. Говоря понятнее – портретов с размытием фона, подчеркивающих сам образ запечатленного на снимке человека.

Раньше, в досмартфонную эпоху, такие фото получали манипуляцией с фокусным расстоянием объектива.

В смартфонах со временем появились двойные камеры, и размытие достигалось благодаря обработке данных с двух объективов. Ну а теперь вот появилась новая возможность.

Учитывая прогрессирующий «ум» камер, становится логичной возможность удаления из поля зрения объектива посторонних объектов.

Фотографируете вы, к примеру, какой-то исторический объект – а тут какой-то редиска нехороший человек прямо перед ним припарковал свой поганый утиль на колесах!

Р-р-р! Дожидаться, пока он соизволит убраться прочь? Еще чего! Чик-чик виртуальными ножницами – и помеха вначале очерчена благодаря сенсору глубины, а затем и устранена.

Еще можно измерять расстояние, т.е. использовать смартфон в качестве рулетки. В точности, как это делает эппловский LIDAR. Точность при этом будет невысока, порядка сантиметров, но во многих случаях и этого достаточно.

Прикинуть, поместится ли на свое место новое кресло, хватит ли ширины стола для монитора и т.п.

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

Дополненная реальность – все о не слышали, кое-кто ею даже пытался пользоваться, но на практике… Да, на практике это не более чем игрушка на пару часов. Не получается у вендоров затащить в «глубину» никого, ошибся в свое время Пейсатель.

Но вообще без снятия рельефа разработчиков софта для этой пока еще сомнительной сферы очень тяжко. Так что и здесь ToF сенсор отрабатывает по полной.

Хватает и других теоретических применений технологии: отслеживание движений рук пользователя, биометирческое сканирование лица и даже импровизированный прибор ночного видения. А вот на практике…

А на практике все выглядит так

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

Для подавляющего большинства изложенных выше областей применений требуется мощный специализированный софт в сочетании с крутейшими возможностями «железа».

И если с последними еще так-сяк, особенно в премиальных монстрах типа Snapdragon 888+, то с программным обеспечением все обстоит достаточно печально.

В том же Google Play есть несколько программ типа пресловутой «рулетки», позволяющих оценить возможности новой технологии, но до тотального внедрения, проникающего во все сферы жизни – как от Москвы до Пекина в позе пьющего оленя.

Даже если какой-то вендор B/C класса и воткнет ToF сенсор в свой мегакрутой бюджетник – далеко не факт, что он вообще будет работоспособным.

Но даже если производитель не схалтурит, то в 99,9% случаев возможности сенсора глубины сведутся к тому самому эффекту боке, да может быть, скверно работающему Face Unlock, распознающему владельца через два раза на третий.

Говоря проще, не работает нынешнее поколение ToF сенсоров достаточно хорошо, чтобы оправдывать свое присутствие в смартфонах. Как результат – массовый отказ производителей от технологии в своих новых моделях.

Samsung Galaxy S21, Xiaomi Mi 11, Huawei P50, еще с десяток других флагманов – все они, в отличие от своих предшественников, вышли без сенсора глубины в составе блока камер.

А вот у той же Apple, начиная с iPhone X и до сих пор, используются похожие технологии под названием Face ID, разработанные эксклюзивно для купертинцев Sony.

Хотя далеко не все вендоры отказались в своих новых моделях от данной технологии. Например, в том же Honor 50, модели субфлагманского класса со 108 МП основным объективом, ToF сенсор никуда не делся.

Есть он и в бюджетниках Nokia, анонсированных в текущем году.

Камера глубины в смартфоне что это. Смотреть фото Камера глубины в смартфоне что это. Смотреть картинку Камера глубины в смартфоне что это. Картинка про Камера глубины в смартфоне что это. Фото Камера глубины в смартфоне что это

Весьма неоднозначный вопрос с неоднозначным ответом. Все зависит от того, насколько Apple, Google, Facebook и другим разработчикам платформ дополненной реальности удастся «пропихнуть» свои проекты в массы.

В этом случае ToF, а заодно и аналогичные технологии вроде LIDAR в самом деле окажутся востребованы и будут далее развиваться.

Что же касается мобильной фотографии, то повышение качественной и количественной мощи AI современных чипсетов вкупе с наличием других, более полезных типов объективов, вроде ультраширокоугольника и телевика, делает плюсы от ToF практически бесполезными.

Источник

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *