Раніше: помилки вмирали разом з племенем; тепер — помилки масштабуються разом з технологіями.
Помилки, які навчилися літати
У нашому містечку була стара легенда про мисливця, який одного разу пустив стрілу не в той бік.
Стріла впала в ліс, і всі посміялися з нього. Наступного дня він змінив напрямок, виправив помилку, а через тиждень про неї вже ніхто не пам’ятав. Ліс прийняв стрілу, земля її сховала, і світ продовжився.
У ті часи помилки були короткими.
Вони жили стільки, скільки жила людина, яка їх зробила.
Якщо плем’я обирало невдале місце для стоянки, воно переїжджало. Якщо хтось знаходив небезпечну рослину, знання про неї передавалося далі. Якщо старий помилявся, його помилка зазвичай помирала разом із його голосом.
Світ був повільним.
А разом із ним були повільними і наслідки.
Але потім люди навчилися записувати свої думки, будувати машини й створювати системи, які могли переносити не лише мудрість, а й помилки.
І сталося щось дивне.
Ми навчилися робити так, щоб наші помилки жили довше за нас.
Сьогодні одна неправильна ідея може отримати мільйони повторень. Одна хибна модель може бути вбудована в установи. Один недосконалий алгоритм може приймати рішення швидше, ніж людина встигне зрозуміти, що сталося.
Технології стали великими підсилювачами.
Але вони не питають, що саме потрібно підсилити.
Вони однаково добре збільшують мудрість і нерозуміння, турботу й байдужість, правду й ілюзію.
Старий мисливець із легенди мав одну перевагу.
Він бачив, куди полетіла його стріла.
Сучасна людина часто запускає стріли, які летять далі, ніж сягає її погляд.
Можливо, головна проблема нашого часу не в тому, що ми робимо більше помилок.
Ми завжди помилялися.
Проблема в тому, що наші помилки отримали новий масштаб.
Вони навчилися копіюватися. Вони отримали швидкість. Вони знайшли способи подорожувати між поколіннями.
Але разом із цим ми отримали і нову відповідальність.
Бо якщо колись мудрість племені зберігалася в пам’яті старійшин, то тепер вона має жити в системах, які ми створюємо.
Найбільший виклик майбутнього — не навчитися робити машини розумнішими.
А навчитися не передавати їм власну сліпоту.
Бо технологія не скасовує людських помилок.
Вона просто дає їм крила.