Taiscéalaithe cuardaigh
Aisghabhann taiscéalaithe cuardaigh leathanaigh ar an mórchóir chun innéacs a thógáil a aisghabhann inneall freagraí uaidh ag am an cheistithe[1]. Is iad an aicme a luaitear go hiondúil le freagra AI: ritheann OpenAI OAI-SearchBot le haghaidh gnéithe cuardaigh ChatGPT[2], ritheann Anthropic Claude-SearchBot[3], agus ritheann Perplexity PerplexityBot chun suíomhanna a thaispeáint agus a nascadh ina thorthaí[4]. Is é an rud a scarann iad ó scríobaire oiliúna ná an méid a tharlaíonn don chóip: is féidir iontráil innéacs a aisghabháil agus a nascadh ar ais, déantar corpas oiliúna a ionsú i meáchain mhúnla, agus rialaítear an dá cheann le comharthaí robots.txt éagsúla[5].
Comharthaí ar leithligh le haghaidh innéacs agus oiliúna
Foilsíonn Google comharthaí robots.txt éagsúla don dá phost. Is é GoogleOther an taiscéalaí cineálach a úsáideann a fhoirne táirgí chun ábhar atá ar fáil go poiblí a aisghabháil[6], cé go bhfuil Google-Extended ina chomhartha neamhspleách a chinneann an féidir le hábhar taiscéalta samhlacha Gemini amach anseo a oiliúint[5]. Is féidir le suíomh fanacht san innéacs agus lasmuigh den chorpas oiliúna. Déanann OpenAI an scoilt chéanna a dhoiciméadú, ag rith OAI-SearchBot le haghaidh cuardaigh agus comhartha ar leithligh le haghaidh oiliúna samhla[2]. Féach scríobairí oiliúna agus robots.txt.
Láimhseáil Robots.txt
Deir Google go n-urramaíonn a chuid taiscéalaithe coitianta rialacha robots.txt i gcónaí le haghaidh taiscéalta uathoibríocha[7], agus glacann an prótacal leis sin go díreach: léann taiscéalaí an comhad agus cinneann sé cad atá le leanúint[1]. Tá an t-údarás ar fud an daonra níos leithne neamhrialta, agus níor tomhaiseadh é ar feadh an chuid is mó de shaol an phrótacail: taifeadann an páipéar 2025 a thástáil é ar dtús ar scála, ar logaí gréasáin institiúideacha anaithnidithe, go raibh an fhianaise roimhe seo scéalaíoch[8]. Fuair an staidéar sin, ar 130 bot féin-dearbhaithe thar 40 lá, go dtagann laghdú ar chomhlíonadh de réir mar a éiríonn treoir níos déine, agus nach n-iarrann taiscéalaithe cuardaigh AI robots.txt ar chor ar bith go minic[9], mar sin is iarratas é líne Dhiúltú seachas rialú.
Cad a cheannaíonn ballraíocht innéacs
Is é ballraíocht innéacs an réamhchoinníoll le haghaidh luachana. Deir OpenAI nach dtaispeánfar suíomh a roghnaíodh as OAI-SearchBot i bhfreagraí cuardaigh ChatGPT, cé gur féidir leis fós a bheith le feiceáil mar nasc nascleanúna[2], déanann Anthropic cur síos ar Claude-SearchBot mar anailís ar ábhar chun ábharthacht freagraí cuardaigh a fheabhsú[3], agus iarrann Perplexity ar mháistrí gréasáin cead a thabhairt do PerplexityBot ionas gur féidir leathanaigh a thaispeáint agus a nascadh[4]. Má chuirtear bac ar chomhartha cuardaigh innill baintear an leathanach as an linn as a dtarraingítear a chuid freagraí, rud atá ina chinneadh difriúil ó dhiúltú oiliúna. Féach Cuardach ChatGPT, innill freagraí agus foinsí luachana AI.
Toirteanna
Is é taiscéaladh cuardaigh an sciar is mó fós d'aisghabháil uathoibrithe. Thaifead Cloudflare go raibh Googlebot ag ardú ó 30% go 50% d'iarratais taiscéalaí idir Bealtaine 2024 agus Bealtaine 2025[10], le GPTBot ag dul ó 2.2% go 7.7% ar ardú 305% in iarratais[11]. Ar fud 2025 tháinig 4.5% d'iarratais HTML ar líonra Cloudflare ó Googlebot i gcoinne 4.2% do gach bot AI eile le chéile[12]. Is mionlach é aisghabháil de chuspóir dearbhaithe bot AI: chuir painéal taiscéalaí díoltóra ó Eanáir go Iúil 2026 aisghabháil cuardaigh nó freagraí ag 11.1% d'iarratais bot AI i gcoinne 46.5% le haghaidh oiliúna[13]. Féach Cloudflare agus taiscéalaithe AI.
Botanna san aicme seo
Rianaíonn clárlann bot Baseline Labs (v1) 33 díobh seo. Tá a iontráil féin ag gach ceann acu lena ghníomhaire úsáideora, a chomhartha robots.txt agus conas é a fhíorú.
- AddSearchBotAddSearch
- AIWebIndexLyrenth
- amazon-kendraAmazon
- AmazonbotAmazon
- Amzn-SearchBotAmazon
- AndibotAndi
- AnomuraDireqt
- ApplebotApple
- Aranet-SearchBotAnaithnid
- atlassian-botAtlassian
- AzureAI-SearchBotMicrosoft
- BravebotBrave
- Channel3BotAnaithnid
- Claude-SearchBotAnthropic
- Cloudflare-AutoRAGCloudflare
- ExaBotExa
- GoogleOtherGoogle
- GoogleOther-ImageGoogle
- GoogleOther-VideoGoogle
- GrokBotxAI
- iAskBotiAsk
- iaskspideriAsk
- LinkupBotLinkup
- meta-webindexerMeta
- OAI-SearchBotOpenAI
- PerplexityBotPerplexity
- PetalBotHuawei
- Querit-SearchBotQuerit
- QueritBotQuerit
- TavilyBotTavily
- TimpibotTimpi
- YouBotYou.com
- ZanistaBotAnaithnid
Liostaíonn an chiclipéid bot iomlán gach aicme taobh le taobh.
Tagairtí (13)
- Taiscéalaí Gréasáin - Wikipedia
- Forbhreathnú ar Thaiscéalaithe OpenAI - Doiciméid forbróra OpenAI
- An ndéanann Anthropic sonraí a thaiscéaladh ón ngréasán, agus conas is féidir le húinéirí suíomhanna an taiscéalaí a bhlocáil? - Tacaíocht Claude
- PerplexityBot - Doiciméid forbróra Perplexity
- Taiscéalaithe coitianta Google - Google Search Central
- Taiscéalaithe coitianta Google - Google Search Central
- Forbhreathnú ar thaiscéalaithe agus aisghabhálaithe Google - Google Search Central
- Urramaíonn scríobairí treoracha robots.txt go roghnach: fianaise ó staidéar eimpíreach ar scála mór
- Urramaíonn scríobairí treoracha robots.txt go roghnach - arXiv 2505.21733 (ACM IMC 2025)
- Ó Googlebot go GPTBot: cé atá ag taiscéaladh do shuíomh in 2025 - Blag Cloudflare
- Ó Googlebot go GPTBot: cé atá ag taiscéaladh do shuíomh in 2025 - Blag Cloudflare
- Athbhreithniú Bliana Cloudflare Radar 2025 - Blag Cloudflare
- Cóimheas taiscéalaíochta-go-tagartha: taiscéalaithe AI agus botanna LLM - Painéal taiscéalaí Seomator
Nuashonraithe go deireanach 2026-09-04. Scríofa agus á chothabháil ag Baseline Labs.