Уже к XII веку Килва превратилась в самый крупный и могущественный город всего побережья. К XV веку султанат достиг зенита своего могущества, захватив или подчинив себе города-государства Малинди, Момбаса, Пемба, Мафия, Занзибар, Коморы, а также Мозамбик и Софалу и торговала с Мадагаскаром. Абу Абдаллах ибн Баттута оставил записи о своём визите в Килву в 1330 году, и восторженно отзывался о смирении и набожности местного правителя, султана Аль-Хасана ибн Сулеймана. Этим периодом датируется основание дворца Хусуни Кубва и существенная достройка Великой мечети Килвы.

В 1502 году каравеллы Васко да Гамы вошли в бухту Килвы. Васко да Гама пытался требовать дань с богатого города, а несколько позже португальский же отряд под командованием Франсишку де Алмейды взял Килву под контроль (1505), которая и оставалась в их руках до 1512 года, пока её не захватили арабы. Город вернул своё прежнее могущество, но в 1784 году попал под власть оманской династии, правившей в Занзибаре. 

Позже французы основали и обустроили на северной оконечности острова форт, но город сам по себе прекратил существование в 1840-х годах. Ещё позже, с 1886 по 1918 гг. остров входил в состав Германской Восточной Африки.

Серьёзные археологические исследования начались здесь в 1950-х годах. В 1981 году Килва была объявлена объектом Всемирного наследия человечества; в список вошли Великая мечеть Килвы, дворец Мкутини, а также руины других примечательных объектов.