Discussion

Запросы для нескольких городов сразу
Пример: http://openweathermap.org/data/2.1/weather/city?ids=6058560,498817 На сервере рабивается на 2 запроса (по кол-ву id), а при отправлении собирается. В итоге экономится 2 запроса к серверу (по числу ID).

Жесткое кеширование запросов
В связи в большим кол-ом запросов в секунду стоит задать кеширование (memcache, файловое)

Создание НОД
Можно создавать ноды для доступа к свежим данным (к примеру: текущий день + прогноз на 5 дней). Возможно создавать НОДы на довольно слабых конфигах, но много, что позволит снизить загрузку основного сервера.

Выгрузка данных
Как насчет того, что бы выгружать данные в открытый доступ? По сути сделать OS данных Наверняка можно будет договориться с компаниями (к примеру Яндексом) для хранения данных. Т.к. там будут храниться данные не слишком актуальные, то можно не беспокоиться о конкуренции :)

Мусор в API
Слишком много данных в API, что увеличивает трафик сервера. Можно разграничить на Simple API и Advance API.