Investor.bg
Миналата седмица пропътувах значително разстояние, за да присъствам на неофициална лекция за изкуствения интелект (AI), изнесена от ръководителя на една от най-големите разузнавателни агенции на Запад. Като много хора, дори тези, които са запознати със света на отбраната и сигурността, аз не знам почти нищо за ИИ и революцията, която ще засегне живота на всички, казва Макс Хейстингс пред Bloomberg.
Оказа се, че пътуването не си струва бензина. Аудиторията на мозъчния тръст беше бомбардирана с половин час скучно говорене за това колко важен ще бъде изкуственият интелект, необходимостта от регулирането му и разумното му използване. Нашият говорител обаче не си направи труда да обясни какво ще прави AI, отвъд очевидното – мислете автономно. Докато си тръгвах, се чудех дали наистина знаят за какво става дума.
Ще започна с тази история, така че ако се чувствате невежи като мен, бъдете сигурни, защото имате компания. Но всички можем да разберем факта, че AI ще играе ключова роля при вземането на решения от всякакъв вид, търговски, правителствени и военни. На бойното поле почти всички бъдещи оръжейни системи ще имат възможности за ИИ, като синхронизиране на рояци дронове и реагиране на приближаващи ракети с буквално свръхчовешка скорост. Съществуват обаче опасения, че дори най-оптималните ходове на AI все пак ще насърчат ескалация.
Някои експерти отиват дори по-далеч в своите прогнози. В нова книга, завършена и написана в съавторство с техническите гурута Ерик Шмид и Крейг Мънди, покойният Хенри Кисинджър твърди, че „имунизиран срещу страх и предпочитания, ИИ въвежда нова възможност за обективност при вземането на стратегически решения“. Кисинджър и колегите му виждат възможността машините да се държат по-рационално и следователно по-добре от агресори като руския президент Владимир Путин.
Повечето от нас са по-предпазливи и наистина нервни. Ако не вярвахме, че китайският президент Си Дзинпин и новоизбраният президент на САЩ Доналд Тръмп ще вземат мъдри решения за мир или война, ние сме още по-ужасени от идеята, че машините имат власт над техните преценки. Стивън Фелдщайн от Фондацията Карнеги за международен мир казва, че ИИ „помага за ускоряване на нова ера на геополитиката“, която „неизбежно ще оформи функционирането на демокрацията и управлението“.
Нарастващата сила на чатботовете ще даде възможност на злонамерените участници да влияят значително на политическото мнение чрез публикуване на огромно количество пропаганда като факт, допълнително отравяйки обществения дискурс по начин, който много десни медии вече са постигнали чрез социалните медии.
Като се има предвид, че виждаме компютърни системи на авиокомпаниите да се сриват и правителствени бази данни да се хакват всеки ден, изглежда ужасяващо да мислим за бъдеще, в което проблем в системата може да изстреля ядрена ракета. Ние просто не вярваме на „експертите“, които се опитват да ни уверят, че AI няма да получи властта да направи подобно нещо.
Много от нас са гледали превъзходната филмова сатира на Стенли Кубрик от 1964 г. „Д-р Стрейнджлав“, в която луд американски генерал изпраща група стратегически бомбардировачи срещу Съветския съюз, но президентът на САЩ по-късно открива, че руснаците са създали машина, която ще отприщи автоматичен ядрен удар в случай на американска атака. Останалото е в бъдещето, както се казва.
Шест десетилетия по-късно трябва да разчитаме, както човечеството в миналото, на факта, че жителите на планетата ще запазят достатъчно чувство за самосъхранение, за да не изграждат системи с автономна власт, които да унищожат всички ни. И все пак изглежда разумно да се страхуваме, че самите Си, Путин, Тръмп и Ким Чен-ун разбират тънкостите на технологията не по-добре от мен или може би от вас.
Никога няма да забравя историята – която е историческа, а не просто легенда – за Уинстън Чърчил, към когото се обърнал неговият главен научен съветник през август 1941 г. и поискал разрешение да продължи да работи върху процеса на ядрено делене с крайната цел да създаде бомба. Това е семето, което по-късно даде плод чрез богатството и мощта на Съединените щати с проекта Манхатън.
Чърчил отговори, че не вижда нужда от по-мощно оръжие, когато вече наличните средства за унищожаване изглеждат напълно достатъчни: „Аз лично съм доста доволен от експлозивите, с които разполагаме.“ Но тъй като учените бяха толкова ентусиазирани, той не възрази срещу техните изследвания. Искам да кажа, че като викторианец, роден през 1874 г., Чърчил не би могъл да разбере епохалното значение на ядрения разпад и той наистина го е направил едва след американските бомбардировки над Хирошима и Нагасаки през 1945 г., посочва Хейстингс. Собственият ми баща ми написа писмо, дни след раждането ми през декември 1945 г., което ми даде, когато бях на 21, очаквайки, че моето поколение ще прекара живота си, преследвано от призрака на бомбата. Наистина е удивително колко весело прекарахме последните 79 години, уплашени от много неща, но само за кратко – по време на Кубинската ракетна криза от 1962 г. – наистина ужасени от перспективата за междуконтинентална ядрена война.
Днес знаем това: ИИ ще се окаже толкова ключов за промяната на света, колкото и създаването на атомната бомба. Книгата Genesis: Artificial Intelligence, Hope and the Human Spirit, чийто съавтор е Кисинджър, признава, в изблик на оптимизъм, че „Ако AI се появи като практически независима политическа, дипломатическа и военна единица, това би наредило промяна във вековния баланс на силите за сметка на нови, неизследвани неравенства... Такъв... ред може да станем свидетели на вътрешната имплозия на обществата и неконтролираната експлозия на външни конфликти.
Пророците на AI предсказват, че войната ще престане да бъде съревнование между съперничещи армии, флоти или военновъздушни сили, управлявани от хора, а вместо това ще се превърне в борба между съперничещи си машинни системи. Смелостта или липсата на такава ще престане да бъде фактор. Уменията, които имат значение, няма да бъдат тези на пилоти като във филма Top Gun, а вместо на софтуерни инженери, които много преди битката да започне, програмират технологията, която движи битката.
Войната в Украйна показа как ракетите и безпилотните летателни апарати (дронове) сега доминират на бойното поле. Ако отговарях за доставките на оръжие за която и да е нация, щях да откажа финансиране за всеки нов боен самолет, който няма да влезе в експлоатация до 40-те години на миналия век и изисква екипаж.
Спомням си чувството на удивление преди 20 години в хангар извън Кабул, когато за първи път гледах бивш пилот на B-52 да лети с дрон. Тогава усетих и сега знам, че съм зърнал бъдещето.
Поне проектът Манхатън беше ръководен от истински хора, дори някои от тях да бяха толкова несъвършени, колкото Робърт Опенхаймер. Изглежда правилно да се страхуваме от перспективата за машини, управляващи нашите бъдещи въоръжени конфликти, да не говорим за управлението на операциите на маркетмейкърите и мениджърите на хедж фондове. Фелдщайн отбелязва, че „перспективите за случайно използване на сила и потенциална ескалация са значителни“. Но AI е на хоризонта. Нямаме друг избор, освен да поддържаме темпото, както си казаха учените от проекта Манхатън по време на трите години херкулесов труд за създаването на Бомбата.
Трябва да се утешим с факта, че сме преживели първите осем десетилетия от ядрената епоха, за която много от нашите родители вярваха, че ще бъде краят ни. Може би нашите деца ще се справят с ерата на изкуствения интелект, който, подобно на бомбата, вече няма да може просто да бъде изтрит.
