本所は研究分野によって5つの研究部門に分かれています。
基礎系部門（1部）
機械・生体系部門（2部）
情報・エレクトロニクス系部門（3部）
物質・環境系部門（4部）
人間・社会系部門（5部）

これらの5つの部門と客員部門・寄付研究部門・社会連携研究部門を合わせて研究部が構成されています。

基本的にすべての研究室はいずれかの部に所属していますが、そこで進められた研究の成果を基礎として、複数の分野の研究者が密接な協力体制を組むことにより、グループ研究を行っております。特に戦略的に重要と考えられるプロジェクト研究では、「研究センター」が組織されています。さらに、一部の研究センターは附属研究施設として、各研究部門間の連携・協力あるいは融合により、部門の枠組みを超えて、有機的かつ機動的に組織されています。

附属研究施設以外の研究センターとして、連携研究センターと国際連携研究センターがあります。
連携研究センターは大型の産学連携を行うために組織されています。

国際連携研究センターは本所と海外の研究機関との協定や合意書に基づいて設置されています。