Merge pull request #284 from eai04191/feature/resolver-fanza-improve

FanzaResolverに機能・テストを追加
This commit is contained in:
shibafu 2019-09-13 01:18:26 +09:00 committed by GitHub
commit bf1c4e7a21
No known key found for this signature in database
GPG Key ID: 4AEE18F83AFDEB23
9 changed files with 20509 additions and 2 deletions

View File

@ -3,6 +3,7 @@
namespace App\MetadataResolver; namespace App\MetadataResolver;
use GuzzleHttp\Client; use GuzzleHttp\Client;
use Symfony\Component\DomCrawler\Crawler;
class FanzaResolver implements Resolver class FanzaResolver implements Resolver
{ {
@ -21,12 +22,83 @@ class FanzaResolver implements Resolver
$this->ogpResolver = $ogpResolver; $this->ogpResolver = $ogpResolver;
} }
/**
* arrayの各要素をtrim・スペースの_置換をした後、重複した値を削除してキーを詰め直す
*
* @param array $array
*
* @return array 処理されたarray
*/
public function array_finish(array $array): array
{
$array = array_map('trim', $array);
$array = array_map((function ($value) {
return str_replace(' ', '_', $value);
}), $array);
$array = array_unique($array);
$array = array_values($array);
return $array;
}
public function resolve(string $url): Metadata public function resolve(string $url): Metadata
{ {
$res = $this->client->get($url); $res = $this->client->get($url);
$metadata = $this->ogpResolver->parse($res->getBody()); $html = (string) $res->getBody();
$crawler = new Crawler($html);
// 動画
if (preg_match('~www\.dmm\.co\.jp/digital/(videoa|videoc|anime)/-/detail~', $url)) {
$metadata = new Metadata();
$metadata->title = trim($crawler->filter('#title')->text(''));
$metadata->description = trim($crawler->filter('.box-rank+table+div+div')->text(''));
$metadata->image = preg_replace("~(pr|ps)\.jpg$~", 'pl.jpg', $crawler->filter('meta[property="og:image"]')->attr('content'));
$metadata->tags = $this->array_finish($crawler->filter('.box-rank+table a:not([href="#review"])')->extract(['_text']));
return $metadata;
}
// 同人
if (mb_strpos($url, 'www.dmm.co.jp/dc/doujin/-/detail/') !== false) {
$genre = $this->array_finish($crawler->filter('.m-productInformation a:not([href="#update-top"])')->extract(['_text']));
$genre = array_filter($genre, (function ($text) {
return !preg_match('~OFF対象$~', $text);
}));
$metadata = new Metadata();
$metadata->title = $crawler->filter('meta[property="og:title"]')->attr('content');
$metadata->description = trim($crawler->filter('.summary__txt')->text(''));
$metadata->image = $crawler->filter('meta[property="og:image"]')->attr('content');
$metadata->tags = array_merge($genre, [$crawler->filter('.circleName__txt')->text('')]);
return $metadata;
}
// 電子書籍
if (mb_strpos($url, 'book.dmm.co.jp/detail/') !== false) {
$metadata = new Metadata();
$metadata->title = trim($crawler->filter('#title')->text(''));
$metadata->description = trim($crawler->filter('.m-boxDetailProduct__info__story')->text(''));
$metadata->image = preg_replace("~(pr|ps)\.jpg$~", 'pl.jpg', $crawler->filter('meta[property="og:image"]')->attr('content'));
$metadata->tags = $this->array_finish($crawler->filter('.m-boxDetailProductInfoMainList__description__list__item, .m-boxDetailProductInfo__list__description__item a')->extract(['_text']));
return $metadata;
}
// PCゲーム
if (mb_strpos($url, 'dlsoft.dmm.co.jp/detail/') !== false) {
$metadata = new Metadata();
$metadata->title = trim($crawler->filter('#title')->text(''));
$metadata->description = trim($crawler->filter('.area-detail-read .text-overflow')->text(''));
$metadata->image = preg_replace("~(pr|ps)\.jpg$~", 'pl.jpg', $crawler->filter('meta[property="og:image"]')->attr('content'));
$metadata->tags = $this->array_finish($crawler->filter('.area-bskt table a:not([href="#review"])')->extract(['_text']));
return $metadata;
}
// 上で特に対応しなかったURL 画像の置換くらいはしておく
$metadata = $this->ogpResolver->parse($html);
$metadata->image = preg_replace("~(pr|ps)\.jpg$~", 'pl.jpg', $metadata->image); $metadata->image = preg_replace("~(pr|ps)\.jpg$~", 'pl.jpg', $metadata->image);
$metadata->description = str_replace('<>', '', $metadata->description);
return $metadata; return $metadata;
} }

View File

@ -0,0 +1,101 @@
<?php
namespace Tests\Unit\MetadataResolver;
use App\MetadataResolver\FanzaResolver;
use Tests\TestCase;
class FanzaResolverTest extends TestCase
{
use CreateMockedResolver;
public function setUp()
{
parent::setUp();
if (!$this->shouldUseMock()) {
sleep(1);
}
}
/**
* @dataProvider provider
*/
public function test($filename, $url, $title, $description, $image, $tags)
{
$responseText = file_get_contents(__DIR__ . "/../../fixture/Fanza/{$filename}");
$this->createResolver(FanzaResolver::class, $responseText);
$metadata = $this->resolver->resolve($url);
$this->assertSame($title, $metadata->title);
$this->assertSame($description, $metadata->description);
$this->assertSame($image, $metadata->image);
$this->assertSame($tags, $metadata->tags);
if ($this->shouldUseMock()) {
$this->assertSame($url, (string) $this->handler->getLastRequest()->getUri());
}
}
public function provider()
{
return [
'動画 digital/videoa' => [
'digital_videoa.html',
'https://www.dmm.co.jp/digital/videoa/-/detail/=/cid=ssni00558/',
'巨乳姉妹2人とただひたすらセックスに明け暮れた両親不在の3日間',
'「お姉ちゃんもヤりなよ。すごい気持ちいいよ、セックス」ボクには父親が再婚してできた義理の妹たちがいる。名前はみはるとしおん。ある週末、父と母が外出して家を空けると、僕と妹たちの関係が大きく変わった。姉のみはるの前で妹のしおんと肉体関係を持つとそのままみはるともSEX。そして僕たちは両親がいない3日間、ただただSEXを楽しんだんだ。※ 配信方法によって収録内容が異なる場合があります。',
'https://pics.dmm.co.jp/digital/video/ssni00558/ssni00558pl.jpg',
['夕美しおん', '羽咲みはる', '朝霧浄', 'エスワン_ナンバーワンスタイル', 'S1_NO.1_STYLE', 'ハイビジョン', '独占配信', '制服', 'ドラマ', '巨乳', '美少女', 'ギリモザ', '姉・妹']
],
'素人動画 digital/videoc' => [
'digital_videoc.html',
'https://www.dmm.co.jp/digital/videoc/-/detail/=/cid=sweet015/',
'ねる',
'鉄板オナ素材的ハイシコリティもうサンプルは見ていただけましたかそうなんです非の打ち所まるで無し恋するキラッキラの瞳愛嬌抜群の純真笑顔Gカップ巨乳にむっちむちの恵体モザイク越しにも伝わってしまう雑誌グラビア級の美少女ルックスこのスペックなのに自分に自信が持てない系のウブっ子触れただけで濡れだす敏感ボディねっとりDキスから嬉しそうに大量唾液をゴク飲みする程度には恋愛洗脳済み溢れ出るガマン汁を丁寧に舐めとるラブいフェラビックビク痙攣しながら困り顔で何度も何度も連続イキ絶頂※ 配信方法によって収録内容が異なる場合があります。' . PHP_EOL . '特集:' . PHP_EOL . PHP_EOL . 'FANZAオリジナル『素人ホイホイZ/素人ホイホイsweet』',
'https://pics.dmm.co.jp/digital/amateur/sweet015/sweet015jp.jpg',
['素人ホイホイsweet', '独占配信', '巨乳', '制服', '清楚', '美少女', '女子校生', 'ハイビジョン']
],
'アニメ digital/anime' => [
'digital_anime.html',
'https://www.dmm.co.jp/digital/anime/-/detail/=/cid=h_1379jdxa57513/',
'性活週間 THE ANIMATION 第1巻',
'めちゃシコ美少女マスター・みちきんぐの初単行本が' . PHP_EOL . '『ヌーディストビーチに修学旅行で?』『リアルエロゲシチュエーション』など' . PHP_EOL . '大ヒットシリーズを手掛けたアダルトアニメ界の新進気鋭クリエイター' . PHP_EOL . '「小原和大」によって待望のOVA化' . PHP_EOL . '私と姉体験してみない?' . PHP_EOL . 'c2019 みちきんぐ/GOT/ピンクパイナップル※ 配信方法によって収録内容が異なる場合があります。',
'https://pics.dmm.co.jp/digital/video/h_1379jdxa57513/h_1379jdxa57513pl.jpg',
['性活週間_THE_ANIMATION', 'ピンクパイナップル', 'Pink_Pineapple', 'ハイビジョン', '中出し', 'フェラ', '巨乳', '姉・妹']
],
'同人' => [
'doujin.html',
'https://www.dmm.co.jp/dc/doujin/-/detail/=/cid=d_115139/',
'美少女拉致って性教育',
'ハ○エースでおさげ髪美少女を拉致って、凌辱する内容です。' . PHP_EOL . '汚っさん×美少女モノ。' . PHP_EOL . '表紙込み総ページ数28p内本文27p' . PHP_EOL . '表紙大きさ1200×1719' . PHP_EOL . '本文大きさ1200×1694',
'https://doujin-assets.dmm.co.jp/digital/comic/d_115139/d_115139pr.jpg',
['美少女拉致って性教育', 'オリジナル', '制服', '男性向け', 'ミニ系', '少女', '屋外', '中出し', '成人向け', 'みくろぺえじ'],
],
'電子書籍' => [
'book.html',
'https://book.dmm.co.jp/detail/b104atint00313/',
'少女×少女×少女',
'少女達が乱舞する…!' . PHP_EOL . '天上家。俺が捨てたあの家…祭子から「母が亡くなった」と電話を受けて、俺は妹達を救うために帰って行くが…。そこで待っていたのは、運命に逆らえず妹達との果てしなき乱交の宴だった…。' . PHP_EOL . '透明感溢れる魅力的なキャラクター、緻密に描きこまれた世界、そしてそのスタイルからは想像できないハードかつ長大なエロ描写!赤月みゅうとのセカンド単行本。',
'https://ebook-assets.dmm.co.jp/digital/e-book/b104atint00313/b104atint00313pl.jpg',
['赤月みゅうと', 'MUJIN編集部', '少女×少女×少女', 'MUJIN_COMICS', 'ティーアイネット', 'アダルトコミック単行本', '単行本', '美少女', '中出し', '3P・4P', 'ハーレム']
],
'PCゲーム' => [
'dlsoft.html',
'https://dlsoft.dmm.co.jp/detail/views_0630/',
'姫と穢欲のサクリファイス',
'ソリデ国――国家間戦争に勝利し発展した大国は、一人の男によって襲撃される。国王に強い恨みを抱き、復讐のために行動を起こした主人公・カルドは使役している‘‘悪魔’’の力を借りて城を掌握。国政や国民には興味を示さず、国王への復讐として悪魔達の能力を使って王女・フィアナへの調教を開始する。',
'https://pics.dmm.co.jp/digital/pcgame/views_0630/views_0630pl.jpg',
['B-銀河', '遊丸', '瑠奈璃亜', 'はっとりまさき', '蒼瀬', '木下じゃっく', '御導はるか', '薄迷', '犬童飛沫', '星天誠', '紅ぴえろ', 'エスクード', 'お姫様', '辱め', 'デモ・体験版あり', 'ファンタジー']
],
'未対応' => [
'nosupport.html',
'http://www.dmm.co.jp/ppm/video/-/detail/=/cid=h_275tdsu00032/',
'素人のお姉さん!!「チ○ポを洗う」お仕事してみませんか? 2',
'パーツモデルの募集と思い面接に訪れた素人娘達に、初めての『チ●ポ』を洗うお仕事してもらいました!『エッチとかじゃなくて…洗うだけなら…』自らに言い聞かせる様に出演承諾した彼女...',
'http://pics.dmm.co.jp/digital/video/h_275tdsu00032/h_275tdsu00032pl.jpg',
[]
]
];
}
}

1557
tests/fixture/Fanza/book.html vendored Normal file

File diff suppressed because it is too large Load Diff

3326
tests/fixture/Fanza/digital_anime.html vendored Normal file

File diff suppressed because it is too large Load Diff

3630
tests/fixture/Fanza/digital_videoa.html vendored Normal file

File diff suppressed because it is too large Load Diff

3662
tests/fixture/Fanza/digital_videoc.html vendored Normal file

File diff suppressed because it is too large Load Diff

2122
tests/fixture/Fanza/dlsoft.html vendored Normal file

File diff suppressed because it is too large Load Diff

4209
tests/fixture/Fanza/doujin.html vendored Normal file

File diff suppressed because it is too large Load Diff

1828
tests/fixture/Fanza/nosupport.html vendored Normal file

File diff suppressed because it is too large Load Diff