La Subsecretaría de Educación Media Superior (SEMS) fue creada el 22 de enero de 2005 al entrar en vigor el Reglamento Interior de la SEP publicado el 21 de enero del mismo año en el Diario Oficial de la Federación (DOF).
Los antecedentes de la SEMS son: el Departamento de Enseñanza Técnica Industrial y Comercial (1923), la Subsecretaría de Enseñanza Técnica y Superior (1958) y la Subsecretaría de Educación e Investigación Tecnológicas (SEIT) (1978) que desapareció en la reestructuración de la SEP en 2005.
El Reglamento Interior estableció que la SEP contara con un órgano interno de control, 39 unidades administrativas y 9 órganos desconcentrados, lo cual, incluyó la reducción de cinco a tres subsecretarías: Educación Superior, Educación Media Superior y Educación Básica.
Posteriormente, mediante el Acuerdo 351 publicado en el DOF, el 4 de febrero de 2005, se adscribieron a la SEMS las direcciones generales de Educación Tecnológica Industrial (DGETI), Educación Tecnológica Agropecuaria (DGETA), Educación en Ciencia y Tecnología del Mar (DGECyTM), de Bachillerato (DGB), de Centros de Formación para el Trabajo (DGCFT) y de Educación Secundaria Técnica (DGEST).
Excepto la DGB, las direcciones generales señaladas pertenecieron a la SEIT, así como el Consejo del Sistema Nacional de Educación Tecnológica (COSNET). La reestructuración de la SEP incluyó la creación de una Dirección General de Educación Superior Tecnológica --antes Dirección General de Institutos Tecnológicos-- donde se agruparon los planteles de educación superior tecnológica agropecuaria, forestal, de ciencias del mar e institutos tecnológicos, bajo el mando de la Subsecretaría de Educación Superior. El COSNET cambió de nombre por el de Coordinación Sectorial de Desarrollo Académico (COSDAC) y continúa adscrito a la SEMS.
La Dirección General de Educación Secundaria Técnica fue reasignada a la Administración Federal de Servicios Educativos en el Distrito Federal --anteriormente subsecretaría-, de acuerdo a lo establecido en el Decreto de Reformas al Reglamento Interior de la SEP, publicado el 11 de octubre de 2006, en el DOF.