¿Existe un límite en el número de autores que puede tener un trabajo de investigación de IEEE?

No hay límite.

Lo único que debe tener en cuenta es que hay un autor de contacto principal y otros son autores c0, ustedes tendrán que averiguarlo.

Cuando se trata de su caso, es decir, 5 autores eche un vistazo:
Página en mems2013.org

Estos son los documentos que obtuvieron reconocimiento por su trabajo en MEMS.
Observe el número de autores en cada artículo, hay 12 autores en el primer artículo.

Para tu referencia:
Caja de herramientas digitales de autor IEEE
Página en ieee.org
Pautas de envío de IEEE para revistas, transacciones, diarios y cartas de IEEE
Actas del IEEE del IEEE
Sociedad de Comunicaciones IEEE
Sociedad de Comunicaciones IEEE
http://www.ieee.org/publications_standards/publications/proceedings/information_for_authors.pdf
http://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=4276800