単体的複体は、ファセット（＝極大な面）がすべて同じ次元のときpureであるといい、 そうでない場合はnonpureであると言います。
単体的複体のshellabilityや、関連する諸性質(vertex decomposability, partitionability, Cohen-Macaulayness等)は 1990年台以前はpureな単体的複体に限定して定義され、調べられてきていましたが、 1990年以降、A. BjörnerとM. Wachsによって、ほとんど定義を変更することなくnonpureな単体的複体に 各種概念を一般化できることが提起され、また、その有用性が示されたことから、nonpureな単体的複体に対して これらの概念が議論されるようになりました。([1])
このあたりの性質を調べる上で重要な概念に、f-vectorおよびh-vectorというものがあります。 f-vectorは単体的複体の各次元の面の個数を並べたもの、h-vectorはそれを変形したものです。 これらはpureな単体的複体を調べる上ではとてもよく機能するのですが、nonpureな複体に対して そのまま用いようとすると、ほとんど意味のある結果を生みません。
これを克服するためにBjörnerとWachsが提案したのは、f-triangleおよびh-triangleというものに 拡張することでした。これは、単体的複体の面の数を単純に数えるのではなく、何次元のファセットに 属するか（＝次数）で層別して分けて数える、というもので、面の次元と次数ごとに面の個数を数える ため、三角行列の形で表されることになり、「triangle」という名前になっています。([1])
これは、shellabilityに関してはとてもうまく働き、また、Cohen-Macaulaynessをnonpureなケースに拡張した sequential Cohen-Macaulaynessに対してもうまくいく（pureな場合のアナロジーがきれいに成り立つ）という ことが知られています。([2])
ところが、partitionabilityに関してはnonpureな場合にf-triangle, h-triangleとの関連はうまくいきません。 もともと、pureな単体的複体においてpartitionabilityで考えるpartitionは、h-vectorの組合せ的解釈として とても自然で、partitionabilityとh-vectorの関係は相性がよいはずであるにも関わらず、nonpureな場合には h-triangleとの関係はうまくないのです。
これは、逆に見ると、shellabilityやsequential Cohen-Macaulaynessに対して f-triangle, h-triangle との 関係がうまく行くのには、partitionabilityに対して追加で条件が必要になっている、と考えられます。 [3]では、nonpureな単体的複体におけるpartitionabilityに関して、shellabilityの持つ性質を何種類か調べ、 その間の強弱関係を調べています。また、その中の1つの、次元の降順にpartitionの層を拡大できるような性質 がh-triangleとのよい関係と等価になることも観察されています。
Nonpureな単体的複体における構造、特にその上でのpartitionの構造については、まだまだ分かっていることが 少なく、今後の研究課題が多いと思っています。
[参考文献]
単体的複体のshellabilityはリンクに関して閉じています。
つまり、shellableな単体的複体のリンクは必ずshellableです。
一方、頂点集合をその部分集合への制限に関しては閉じておらず、
shellableな単体的複体においても、頂点部分集合への制限はshellableでなくなったりします。
（頂点集合の部分集合Wへの制限とは、集合W中にすべての頂点を持つ単体のみからなる
部分複体のことです。）
Wachs [2]は、その単体的複体自身はshellableでないが頂点集合の真部分集合への制限はすべて shellableになるようなものをobstruction to shellabilityと呼びました。 これは、自分自身もその任意の制限もすべてshellableになるような単体的複体のクラスに対する 極小反例になるもののことです。 そして、以下のことが示されています。
[1]の文献では、これをもう少し詳しく調べ、2次元のobstruction to shellabilityを完全に特定しています。 （12種類のobstructionとそれに辺を加えたもの、という形に分類されます。）
[2]では、3次元以上についても、
という問題が提起されています。また、同様のobstructionの概念はshellability以外にも、関連する性質である partitionability, sequential Cohen-Macaulaynessについても自然に考えられるのですが、[1]では、 2次元以下では、shellability, partitionability, sequential Cohen-Macaulaynessの3つの性質に関するobstruction はすべて一致する、ということを示しています。そして、ここから、 3次元以上についても、
という問題を提起しています。 この2つの問題はまだ未解決です。 [1]の中では、これらの問題へのアプローチとして、obstructionよりも強い「strong obstruction」というものに ついて同じ問題を考えても等価である、というようなことを指摘しています。 （同じ概念は[3]の中でも同時期に提案されています。）
これらの2つの未解決問題はいずれも重要な問題と思っています。 特に後者についてですが、partitionabilityやsequential Cohen-Macaulaynessはshellabilityより(だいぶ)弱い性質で、 2次元以上で(partitionabilityとは1次元以上で)ギャップがあるのですが、 2次元のobstructionについては一致してしまうわけです。 3次元以上についても一致するのか否か、興味深いところです。
[参考文献]凸多面体の（多面体自身以外の）すべての面は多面体的複体をなしていて、境界複体と呼びます。 (多面体自身以外の)各面が単体と同型になっているようなd次元の凸多面体を単体的凸多面体といい、 この境界複体は単体的複体になります。 d次元凸多面体の境界複体は(d-1)次元球面と同相なので、d次元の単体的凸多面体の境界複体は (d-1)次元の球面の三角形分割(単体分割)になっています。
逆に、2次元球面の三角形分割を与えると、それと同型な境界複体を与える3次元の単体的凸多面体が 必ず見つかります（シュタイニッツの定理）。 しかし、3次元以上の球面の三角形分割は必ずしも単体的凸多面体の境界複体と同型になるわけでは ありません。
例えば、頂点数nのd次元単体的凸多面体の個数(同型類の個数)は高々2d(d+1)n log n で押さえられる([2])一方、[4]では2n[(d-1)/2]のオーダーの個数以上の (d-1)次元球面の三角形分割が構成できることが示されています。 これはd≧5のとき、単体的凸多面体の個数をはるかに超える数になる。d＝4の場合も、[7]で 2n5/4のオーダーの個数以上の3次元球面の三角形分割が与えられています。
球面の三角形分割の分類としては、単体的凸多面体の境界複体になるかどうか以外にも、 その複雑さが階層を作ります。 例えば、3次元以上の球面の三角形分割はshellableとは限らないのですが、単体的凸多面体の境界複体は 必ずshellableです。上述の[4]で構成された三角形分割はすべてshellableであることが分かっています([6])。 また、単体的凸多面体の境界複体より緩い形で幾何学的な実現を持つクラスとして、球面多面体(spherical polytope) と呼ばれるものもあります。これは、原点を中心とする単体的な錐で空間全体を切り分け、これが原点を中心 とする球面上に作る（少しゆがんだ）三角形分割です。これは凸多面体よりほんの少しクラスが広がるくらいに 思えますが、この球面多面体のクラスになると、一般にshellableであるかどうかが分かっていないなど、 だいぶ状況が変わります。
球面の複雑さの見方として、その部分構造にどのような複雑な構造を含んでいるか、という考え方もあります。
[1]では、3次元球面の骨格に埋め込まれた結び目の橋指数と呼ばれる指標が、その結び目を構成する辺数に
比べて大きい(2×橋指数辺数＞辺数)とshellableではないということが示されています。
この[1]の中では、この骨格に含まれる結び目の橋指数と辺数の関係が、3次元球面の三角形分割における
vertex decomposable ⊆ shellable ⊆ constructible
という階層構造と対応するのではないか、ということを議論していますが、その後、[3]において、shellableと
constructibleの間の違いは橋指数からは見出せないことが示されました。
関連する考え方として、[5]では骨格全体に対する橋指数的なものがpolytopalityという指標で議論されています。
球面の三角形分割の複雑さの類別については、まだ分かっていないことが多くあります。
[参考文献]