国务院组成部门和直属机构区别是地位不同，国务院下属组成部门和直属单位，直属单位的地位略低于组成部门，地方各级政府下属工作部门与直属单位，与国务院的组成部门与直属单位基本上存在对应的关系。
人事任命方式不同，国务院直属机构指的是各总局、总署，国务院有权根据需要自行决定这些部门的设立及其首长人事任免事务等事项，而无需经过人大及其常委会。这些部门不是国务院的组成部门，因此它们的的行政首长，除有特别需要时，不能参加国务院会议。这些部门中，带“总”字的部门的首长为正部级，其余为副部级。
