IoT es una red que se extiende a través de varios elementos y componentes; combinados, estos componentes prestan los servicios que comúnmente conocemos como servicios IoT. Hay varias partes diferentes de esta red. Hay sensores, actuadores, puertas de enlace, canales de transmisión para comunicaciones inalámbricas/por cable de corta y larga distancia, infraestructuras de back-end, elementos de computación y almacenamiento en la nube, aplicaciones de movilidad y similares. Para cada uno de estos elementos hay diferentes opciones disponibles en el mercado.
La arquitectura de la IO es básicamente un enfoque de cómo deben diseñarse e integrarse estos diversos elementos entre sí, con el fin de ofrecer de forma sólida una red de prestación de servicios que pueda satisfacer las necesidades del futuro. Algo parecido a la arquitectura de nuestros edificios, fábricas, carreteras, puentes, ciudades y centros comerciales. La arquitectura es básicamente la columna vertebral, y debe elaborarse cuidadosamente teniendo en cuenta las necesidades de evolución de la funcionalidad, la escalabilidad, la disponibilidad, la mantenibilidad y otros criterios similares