«Новый стандарт» или «нехватка ума»

Внедрение искусственного интеллекта в устройства Apple вызывает опасения у Илона Маска и пользователей. Есть ли повод переживать из-за собственной безопасности?

10 июня Apple на конференции WWDC анонсировала Apple Intelligence — набор функций для iPhone и Mac на основе искусственного интеллекта. Это не отдельное приложение, а глубокая интеграция ИИ в сервисы, которым владелец устройства уже и так давно пользуется. На самом первом этапе AI поможет переписывать тексты, предлагать варианты быстрого ответа на письма, создавать саммари голосовых сообщений и удалять лишние объекты на фото и рисовать эмодзи по запросам.

Apple Intelligence преподносят как крупнейшее и важнейшее нововведение для экосистемы компании за годы. Но появление ИИ, которое интегрировано в операционную систему смартфона, неизбежно приводит к опасениям о возможной угрозе для приватности. Таковыми, например, уже делится Илон Маск. «Новая-Европа» рассказывает, безопасно ли будет пользоваться функциями ИИ на iPhone, за что Apple критикуют прямо сейчас и какое будущее может ждать компанию.

Что особенного в Apple Intelligence

Apple работает в сфере ИИ больше десяти лет: первая версия голосового помощника Siri вышла еще в 2011 году, в iPhone, iPad, Mac, Apple Watch и Vision Pro вовсю используются методы машинного обучения. Но Apple не так уж и заметно развивалась в этом направлении: издание Bloomberg даже писало, что корпорация на годы отставала от конкурентов вроде Google, Microsoft и OpenAI.

Что удивительно, до этого момента представители Apple даже не произносили словосочетание «искусственный интеллект» (artificial intelligence, AI) публично — пока не придумали, как «присвоить» аббревиатуру себе.

Фактически, как отмечает и сам глава Apple Тим Кук, компания просто ответила на повышенный интерес к генеративному искусственному интеллекту во всем мире: слишком уж многие ждали, когда компания в подробностях поделится своим видением будущего. Но даже впервые говоря про ИИ со сцены, Apple сфокусировалась не на самих технологиях, а на конечной пользе для владельца устройства.

Apple Intelligence — не первый ИИ на рынке, интегрированный в операционную систему. Например, Samsung представила Galaxy AI с функцией синхронного переводчика и ассистента для заметок еще в январе. Но искусственный интеллект от Apple выделяется тремя решениями.

Во-первых, Apple Intelligence обрабатывает большую часть информации на самом устройстве, используя мощности процессора. Это значит, что запросы пользователей не попадают на серверы самой Apple и остаются на девайсе. Из-за этого ИИ будет доступен только на высокопроизводительных iPhone 15 Pro и Pro Max, а также на iPad и MacBook с процессором M1. Судя по всему, поддержку Apple Intelligence получат все iPhone 16, которые выйдут осенью.

Во-вторых, Apple представила Private Cloud Compute — систему безопасности, задающую «новый стандарт для приватности в сфере искусственного интеллекта». По заверению корпорации, Private Cloud Compute используется только в том случае, если Apple Intelligence не может справиться с запросом пользователя на самом устройстве. ИИ отправляет запрос через Private Cloud Compute в «частное облако» и не оставляет информацию на серверах Apple. Доступа к этим данным якобы не имеет никто, даже сама Apple.

В-третьих, Apple Intelligence тесно интегрирована с моделью ChatGPT-4o, актуальной версией нейросети от лидеров рынка из OpenAI. Владельцы устройств от Apple смогут бесплатно пользоваться этим ИИ без регистрации аккаунта OpenAI и отдельного приложения. Сам ChatGPT-4o встроен в голосовой помощник Siri и отвечает на текстовые или голосовые сообщения пользователей.

У Apple Intelligence нет настолько же продвинутых конкурентов. Так, Gemini от Google не может работать без подключения к сети и не обладает подобной системой для защиты данных пользователей. А Copilot от Microsoft работает лишь с текстовыми запросами и выдает ответы от ChatGPT-4, но хранит все запросы на серверах компании и не интегрирован в операционную систему Windows.

ИИ от Apple критикует Илон Маск. Почему?

После презентации на WWDC предприниматель Илон Маск обрушился с критикой на Apple. Он счел абсурдной ситуацию, при которой Apple якобы оказалась «недостаточно умной» для создания собственного ИИ, но при этом гарантировала конфиденциальность данных со стороны OpenAI.

«Apple не имеет ни малейшего представления о том, что происходит после того, как они передают ваши данные OpenAI. Они продают вас втридорога»,

— заявил гендиректор Tesla и SpaceX.

Также Маск пообещал запретить использование устройств Apple в своих компаниях, если в них будет встроен ChatGPT. По его словам, «натренированный лгать искусственный интеллект крайне опасен», а соглашаться передавать свои данные кому-либо неразумно, так как «никто не читает условия соглашений».

С позицией Илона Маска согласны не многие. Например, его публично поддержал профессор в области машинного обучения Университета Карнеги — Меллона Райид Гани. Он заявил: Apple нужно предоставить доказательства, что OpenAI действительно не хранит запросы с iPhone на своих серверах. С этим мнением согласен и исполнительный директор форума по мировой приватности Пэм Диксон. Он считает, что владельцам устройств Apple не стоит доверять OpenAI до тех пор, пока не станет ясно, что на самом деле происходит с запросами в облаке.

Но в основном высказывания Маска подвергаются критике. Так, редактор Tom’s Guide Райан Моррисон считает, что предприниматель не посмотрел презентацию целиком, так как Apple подробно рассказала о своем методе хранения запросов и деталях сотрудничества с OpenAI. Также Моррисон указал на то, что Маск был сооснователем OpenAI и теперь судится с его руководителями. Таким образом, претензии личного характера действительно могли повлиять на его позицию.

С мнением Моррисона согласен и бывший директор по безопасности Facebook Алекс Стамос.

«Как и большинство заявлений Илона Маска, его критика основана не на объективной реальности, а на его политических взглядах. Нет фактологической базы, подтверждающей его слова»,

— заявил Стамос.

Тем не менее опасения от Apple Intelligence могут частично разделять на фондовой бирже США. Акции Apple упали почти на 3% после презентации WWDC, на что могли повлиять и заявления Илона Маска.

Siri будет работать в связке с ChatGPT — насколько это безопасно?

Голосовой помощник от Apple не только получит новый дизайн, но и наконец-то станет куда более умным, чем раньше: этому поможет поддержка чат-бота ChatGPT с искусственным интеллектом от OpenAI. Причем компании сотрудничают друг с другом на некоммерческой основе: компания Тима Кука (по крайней мере, пока) ничего не платит за использование нейросети.

Также Siri будет помнить контекст предыдущих сообщений и лучше понимать запросы. Это уже не говоря о более внятной интеграции с устройством: теперь, к примеру, можно будет написать текстовый запрос из главного меню или любого приложения по двойному нажатию на нижнюю часть экрана.

Если же контекста внутри устройства не хватит, Siri попросит у пользователя разрешения подключиться к ChatGPT-4o и ввести запрос туда. То есть согласие нужно будет давать каждый раз. Полученный результат отобразится в верхней части экрана.

Apple подчеркивает, что все запросы в Siri останутся конфиденциальными и не попадут на серверы OpenAI.

«Siri опирается на ваш личный контекст, чтобы предоставить наиболее полезную и актуальную для вас информацию, и защищает вашу конфиденциальность на каждом шагу»,

— рассказал старший вице-президент Apple Крейг Федериги.

Подключение к ChatGPT может вызывать опасения, но Apple заверяет, что зашифровывает все IP-адреса, когда подключается к серверам OpenAI. А тем, кто опасается за свою конфиденциальность, позволят и вовсе отключить связку с ChatGPT.

Заявлениям корпорации о приватности доверяют технические эксперты вроде вице-президента аналитической компании IDC Франциско Джеронимо. По его словам, Apple, в отличие от Google и Meta, не зарабатывает на перепродаже данных пользователей рекламодателям, а в основном получает прибыль с продаж техники.

«Мы все знаем, что Apple не продает наши данные, в отличие от других игроков на рынке. Это их способ выделиться на фоне конкурентов. Если мы не можем доверить свои данные Apple, то кому вообще можем?» — заявил Джеронимо в интервью изданию CNET.

Безопасной связку Siri и ChatGPT считает и сотрудник Forbes Роберт Харт. Он выразил мнение, что Apple особенно важно сохранять высокую репутацию среди пользователей и уделять внимание приватности.

Apple гарантирует сохранность данных с помощью частного облака Private Cloud Compute (PCC). Перед отправкой запроса девайс пользователя создает сквозное зашифрованное соединение с PCC. Apple Intelligence же самостоятельно решает, обрабатывать ли запрос на устройстве или отправлять данные в Private Cloud Compute. В облаке нет постоянного хранилища данных, и запросы пользователей тут же удаляются оттуда после использования информации.

У интеграции с ChatGPT есть и дополнительный слой защиты: данные пользователей не передаются напрямую в OpenAI, а остаются в Private Cloud Compute, у нейросети остается лишь сам текстовый запрос. Доступа к PCC якобы нет даже у инженеров Apple, а расшифровать ключи доступа не может никто.

Тим Кук подтвердил, что Apple частично перекладывает ответственность за приватность на саму OpenAI. Пользователи будут сами решать, использовать ли ChatGPT во время общения с Siri: для каждого запроса в нейросеть придется давать отдельное согласие. Если вы согласитесь использовать ИИ от OpenAI, автоматически соглашаетесь на их условия приватности и безопасности. В противном случае все запросы остаются внутри устройства.

AI: что дальше

Многие сходятся в том, что системный подход к развитию ИИ может навсегда изменить траекторию Apple. Планы Apple на ИИ кажутся амбициозными, и уже скоро шаги компании в этом направлении можно будет оценить самостоятельно. В июле компания объявит дату выхода публичной бета-версии iOS 18, которую смогут установить все пользователи. Финальный релиз, как и обычно, планируется в сентябре.

До этого времени невозможно сделать однозначные выводы о преимуществах и недостатках Apple Intelligence. Но уже сейчас потенциал такого ИИ крайне высок: например, вице-президент мобильной платформы по безопасности Кришна Вишнубхотла называет систему Private Cloud Compute «заметным скачком в области конфиденциальности и безопасности ИИ».

Гонка в области искусственного интеллекта обходится технологическим корпорациям в миллиарды долларов. Это, как замечает издание MIT Technology Review, огромная «ставка» на то, что общество уже сейчас настолько доверяет их системам безопасности, что может без сомнений делиться с компаниями любыми персональными данными. Издание вместе с тем отмечает: понять, надежно ли защищена информация, сразу после анонса особенно сложно, и в таких случаях стоит как минимум подождать, пока нововведения (и Apple, и любой другой корпорации) не пройдут проверку независимых исследователей — а компания на эти отзывы не отреагирует.