Розробники штучного інтелекту зайшли в глухий кут через нестачу серверів у AWS, Microsoft, Google

Стартапи та інші компанії, які намагаються отримати вигоду від буму штучного інтелекту, викликаного OpenAI, стикаються з проблемою: вони не можуть знайти достатньо спеціалізованих комп’ютерів для створення власного програмного забезпечення ШІ. Інформація:Підвищення попиту на серверні чіпи, які можуть тренувати та запускати програмне забезпечення машинного навчання, спричинило дефіцит, що спонукало великих постачальників хмарних серверів, включаючи Amazon Web Services, Microsoft, Google і Oracle, обмежити їх доступність для клієнтів, згідно з інтерв’ю з хмарою. компаній та їхніх клієнтів. Деякі клієнти повідомили про місяці очікування оренди апаратного забезпечення. «Усі стартапи, які намагаються потрапити в цей простір... можливо, вони можуть отримати один [сервер], але неможливо отримати п’ять», — сказав Джонні Даллас, засновник і генеральний директор компанії Zeet, яка продає програмне забезпечення, яке полегшує інженерам запуск програм у кількох хмарах.

Дефіцит серверних чіпів викликає розчарування у розробників програмного забезпечення, які намагаються створювати інструменти ШІ на основі останніх досягнень у моделях машинного навчання. Ці програмісти як у малих, так і у великих компаніях розробляють широкомовні моделі, щоб створювати персоналізованих тренерів з написання або пошукові системи, які відповідають на запитання письмовими відповідями, а не посиланнями, подібно до ChatGPT OpenAI. Багато інших ліцензують і доповнюють програмне забезпечення від OpenAI та його конкурентів для створення спеціалізованих чат-ботів обслуговування клієнтів та інструментів дослідження для корпоративних співробітників. Наприклад, програмне забезпечення OpenAI допомагає банкірам Morgan Stanley знаходити найкращі місця для продажу творів мистецтва на аукціоні на основі безлічі внутрішніх звітів банку про ринки мистецтва.

Це дійсно може бути складною ситуацією для розробників штучного інтелекту. Однак, є кілька можливих шляхів виходу з цієї ситуації:

• Розглянути альтернативні хмарні сервіси: Існують інші хмарні сервіси, такі як IBM Cloud або Oracle Cloud, які можуть бути використані для зберігання та обробки даних.
• Розглянути використання власних серверів: Якщо можливо, розробники можуть використовувати власні сервери для зберігання та обробки даних. Це може бути менш зручно, але може забезпечити більшу контроль над інфраструктурою.
• Оптимізувати використання серверів: Розробники можуть оптимізувати використання серверів, щоб зменшити навантаження та забезпечити більш ефективне використання ресурсів. Це може включати використання кешування даних, оптимізацію запитів до бази даних та інші техніки оптимізації.
• Зменшити розмір даних: Якщо можливо, розробники можуть зменшити розмір даних, які обробляються, щоб зменшити навантаження на сервери.
• Розглянути використання розподіленої інфраструктури: Розробники можуть розглянути використання розподіленої інфраструктури, такої як blockchain або peer-to-peer мережі, для забезпечення більшої надійності та масштабованості системи.