Я ніколи не думаю про майбутнє. Воно саме приходить досить швидко.

Альберт Ейнштейн

На початку 2010-х років довелося побувати в Женеві і спростерігати, як над Женевським озером якийсь пан запускав  чудернацьку летючу річ з чотирма гвинтами, що літала над плесом і вочевидь керувалася по радіо.

Це був квадрокоптер. Дрон. Банальна річ –  як на 2018 рік. Більшість із вас скаже, що дрони були завжди) Ну, як стільниковий зв’язок)

І це і є технологічна сингулярність – на пальцях –  світ дуже швидко змінюється. Те, про що ви зеленого поняття не мали вчора, сьогодні стає буденним. І все це пришвидшується. Кожна зміна пришвидшує темп наступної зміни.

Все відбувається настільки швидко, що ви не встигаєте не те що усвідомити, а навіть відрефлексувати – спочатку, а потім навіть і помітити. DDOS атака змін.  І це не суто про вас конкретно – це про все людство. Як вид, як явище.

Чи є  далі “полиця” у  темпу змін – і ми зможемо, встигнемо зорієнтуватись, а чи її нема – і це таки провалля в чорну діру технологічної сингулярності  – хто зна. Ми не можемо зазирнути за горизонт подій. І взнаємо про це,  коли нас “викине” на ту “полицю” змін.  Або – не викине. Тоді ми просто нічого не встигнемо навіть і помітити.

Технологічна сингулярність — це гіпотетичний момент у майбутньому, коли технології, зокрема штучний інтелект (ШІ), досягнуть такого рівня розвитку, що будуть здатні самовдосконалюватися без участі людини. У цей момент швидкість технічного прогресу стане настільки великою, що людина більше не зможе контролювати чи передбачати його наслідки.

Основні ідеї технологічної сингулярності:

  1. Розвиток штучного інтелекту:
  • Сингулярність передбачає створення сильного ШІ або штучного загального інтелекту (AGI), який буде не лише виконувати специфічні завдання, а й перевершуватиме людський інтелект у всіх аспектах.
  • AGI матиме здатність самостійно навчатися і вдосконалювати себе, що призведе до його експоненційного зростання.
  1. Самовдосконалення технологій:
  • Після появи AGI системи ШІ зможуть швидко покращувати свої можливості, створювати нові технології, які людина просто не здатна передбачити. Це може призвести до “розумового вибуху” — коли розвиток стане неконтрольованим.
  1. Прискорення технологічного прогресу:
  • Технології будуть розвиватися настільки швидко, що прогрес, який колись займав століття чи десятиліття, відбуватиметься за лічені місяці або дні. Це може мати радикальний вплив на всі сфери життя: економіку, науку, медицину, військові технології тощо.
  1. Невизначеність майбутнього:
  • Через швидкий розвиток штучного інтелекту важко передбачити, як виглядатиме світ після сингулярності. Людські здібності можуть бути значно перевершені, а деякі аналітики побоюються втрати контролю над ситуацією.

Ключові концепції сингулярності:

  • Експоненційне зростання: Технології, зокрема обчислювальні потужності та штучний інтелект, розвиваються не лінійно, а експоненційно. Закон Мура, наприклад, демонструє подібне зростання обчислювальної потужності процесорів.
  • Самовдосконалення ШІ: Після досягнення рівня AGI системи зможуть створювати нові версії самих себе, що може призвести до їхнього стрімкого вдосконалення, яке виходить за межі людських можливостей.
  • Постлюдське майбутнє: Одним із можливих результатів сингулярності є створення нового постлюдського суспільства, де люди та машини зливаються в єдине ціле, або ж людина буде повністю замінена розумними машинами.

Точки зору на сингулярність:

  1. Оптимістичний підхід:
  • Технологічна сингулярність принесе користь людству: машини вирішуватимуть глобальні проблеми, створять нові ліки, збільшать тривалість життя, забезпечать достаток і можливості для всіх.
  • Підтримувачі цієї точки зору, зокрема Рей Курцвейл, передбачають, що сингулярність може настати вже до 2045 року. Він бачить сингулярність як момент, коли людство зможе досягти безсмертя через злиття з машинами.
  1. Песимістичний підхід:
  • Деякі дослідники, наприклад Нік Бостром, висловлюють занепокоєння, що без належного контролю над ШІ це може призвести до катастрофічних наслідків. Суперінтелект може стати неконтрольованим і навіть вороже налаштованим до людей, створивши загрозу для існування людства.

Потенційні ризики:

  • Втрата контролю над ШІ: Якщо AGI або суперінтелект досягнуть високого рівня самостійного розвитку, це може поставити під загрозу існування людства через його неспроможність контролювати машини.
  • Моральні питання: Що буде з людськими цінностями та етикою в умовах існування істот з інтелектом, значно вищим за людський? Які права матимуть такі машини, і як вони вплинуть на наше розуміння життя і свідомості?
  • Економічні та соціальні наслідки: Стрімка автоматизація та інтелектуалізація праці можуть призвести до масової втрати робочих місць і змін в економічній структурі суспільства.

Сценарії після сингулярності:

  1. Трансгуманізм:
  • Люди та технології об’єднаються. Людські можливості будуть значно розширені за допомогою технологій, і ми зможемо подолати біологічні обмеження, такі як старіння і смерть.
  1. Світ суперінтелекту:
  • Штучний суперінтелект візьме на себе управління багатьма сферами життя: від економіки до політики. Люди будуть змушені адаптуватися або навіть поступитися своїм місцем на планеті.
  1. Катастрофічний результат:
  • Якщо розвиток ШІ піде поза межами людського контролю, це може призвести до негативних сценаріїв, таких як конфлікт між ШІ та людьми, або навіть знищення людства.

Дещо інше: